Prof. Dr. Karl-Hans Bläsius warnt vor den Risiken militärischer KI: beschleunigte Entscheidungen, unsichere Datenlagen und Kontrollverlust könnten Eskalationen begünstigen – bis hin zum Atomkrieg aus Versehen.
Das GesprächHerr Professor Bläsius, lieber Karl-Hans, es freut mich, dass wir einmal mehr über das weite Feld der Künstlichen Intelligenz (KI) sprechen dürfen. Wir beide kennen uns aus der Zeit, als wir 2002 gemeinsam ein Unternehmen gegründet haben. Damals ging es um KI im Zusammenhang mit der automatisierten Interpretation von Dokumenten – und der Prozessautomatisierung im weitesten Sinn. Es war eine schöne und spannende Zeit.
Ja, lieber Ralf, ich blicke gerne auf diese Zeit zurück. Damals war es spannend – und heute ist vieles rund um KI etwas «angespannt».
Du beschreibst in deinem Buch «Künstliche Intelligenz und Krieg» die entstehenden Risiken, wenn wir Menschen die Kontrolle verlieren. Es geht um die Möglichkeit, dass sich aus heutigen KI-Systemen langfristig eine der menschlichen Intelligenz überlegene Superintelligenz entwickeln könnte. Welche Entwicklungsschritte erscheinen dir aus heutiger Sicht realistisch – und wo beginnt aus deiner Sicht der Bereich spekulativer Zukunftsszenarien?
Das ist nicht leicht einzuschätzen, denn noch ist unklar, ob und mit welchen Methoden eine Superintelligenz realisierbar ist. Also ist vieles noch Spekulation. Manche der aktuellen Weiterentwicklungen zielen auf eine bessere Kombination von symbolischer KI, die auf einem Regelwerk basiert, und den derzeit dominierenden neuronalen Netzen hin, um logisches Schließen und das Einhalten von Bedingungen bei sicherheitsrelevanten Anwendungen zu verbessern. Ob Methoden der symbolischen KI hierfür benötigt werden, ist derzeit offen. Jedenfalls könnten schon bald Systeme entstehen, die uns in Wissen und Urteilsvermögen überlegen sind.
Ein zentrales Argument ist, dass Entscheidungen häufig auf unvollständigen oder unsicheren Informationen beruhen. Oberflächlich betrachtet könnte das verwundern, wo man der KI geradezu Wunderkräfte zuspricht. Welche Risiken entstehen daraus besonders dann, wenn solche Systeme in sicherheitskritischen Bereichen wie Militär oder strategischer Abschreckung eingesetzt werden?
Bei solchen Anwendungen können erhebliche Risiken entstehen. Auch wenn mithilfe von KI viel mehr Daten in sehr kleinen Zeiträumen verarbeitet werden können, bedeutet das keineswegs, dass KI-Entscheidungen, die in der Regel auf Erkennungsaufgaben basieren, immer korrekt sind. Wenn zum Beispiel angreifende Raketen oder Drohnen erkannt werden sollen, sind viele Merkmale relevant, die vage und unsicher sind. So sind die Größe von Radarsignalen und die Helligkeit von Raketensignalen vage Kriterien, die in bestimmtem Maße gelten. Die Erkennung von Objekttypen und Objektmerkmalen ist unsicher und gilt nur mit gewissen Wahrscheinlichkeiten. Bei einer unklaren Datengrundlage können aber auch KI-Systeme nicht sicher entscheiden. Dazu kommt im militärischen Kontext, dass ein Gegner versucht, die Erkennung zu erschweren oder zu verhindern. KI kann die militärischen Entscheidungsprozesse erheblich beschleunigen, aber nicht sicher entscheiden. Die Beschleunigung der Prozesse kann es aber menschlichen Befehlshabern schwer machen, regulierend oder mäßigend einzugreifen, wenn eine Eskalationsspirale droht.
Die militärische Nutzung von KI schreitet weltweit voran. Wo siehst du die größten Gefahren automatisierter oder teilautomatisierter Entscheidungen im Kontext moderner Waffensysteme – insbesondere im Zusammenhang mit nuklearer Abschreckung?
Wie bereits erwähnt, laufen alle Prozesse und Entscheidungen schneller ab, diese müssen aber nicht korrekt oder sinnvoll sein. Weitere Punkte sind, dass bei KI und auch bei Cyberwaffen Kräftevergleiche kaum möglich sind. In der Vergangenheit hat ein gewisses Maß an Transparenz über militärische Stärken auch zur globalen Sicherheit beigetragen. Soldaten, Panzer, Flugzeuge und Schiffe konnten gezählt und verglichen werden. Durch Vereinbarungen wie Open Skies mit gegenseitigen Kontrollen wurde dieser Aspekt noch verstärkt. So wurde Vertrauen aufgebaut und die Sicherheit erhöht. Bei softwarebasierten Waffensystemen sind solche Maßnahmen kaum möglich. Die Fähigkeiten eines Gegners im Bereich KI sind weitgehend unbekannt. Bei einem KI-basierten kriegerischen Einsatz werden auch nur Teilaspekte der Fähigkeiten sichtbar. Auch bei Cyberwaffen sind die Fähigkeiten eines Gegners unbekannt. Da Cyberwaffen nicht unter realen Bedingungen getestet werden können, sind auch die eigenen Fähigkeiten nicht genau bekannt. Eine solche Unsicherheit gefährdet die Stabilität und kann leicht zu Fehlkalkulationen und falschen Entscheidungen führen. Dies kann auch die nukleare Abschreckung betreffen. Im Falle eines gegnerischen Angriffs mit Atomwaffen muss in Erwägung gezogen werden, dass aufgrund von KI- und/ oder Cyberfähigkeiten eine eigene Zweitschlagfähigkeit gefährdet ist. Deshalb muss der Einsatz eigener Atomwaffen in Erwägung gezogen werden, bevor diese entscheidend vernichtet werden und eine Gegenreaktion nicht mehr möglich ist. Damit erhöht sich die Gefahr, dass es im Falle eines Fehlalarms zu einem Atomkrieg aus Versehen kommen kann.
Du betonst die Notwendigkeit von internationaler Kooperation und Vertrauen zwischen den großen Nationen, um Risiken durch KI zu begrenzen. Welche konkreten Formen internationaler Regeln oder Abkommen sind in diesem Bereich realistisch und notwendig?
Leider ist derzeit mehr notwendig als realistisch. Das Verhältnis der großen Militärmächte ist derzeit vor allem durch Misstrauen geprägt. Die Folge ist ein ungebremstes Wettrüsten auf wichtigen Technologiefeldern wie der KI und im Cyberraum. Die dabei entstehenden Waffensysteme entziehen sich immer mehr einer menschlichen Kontrolle, da die Komplexität von Systemen und Situationen enorm zunimmt und die Entscheidungszeiten immer kleiner werden. Des Weiteren gehen viele Risiken, wie gravierende Cyberangriffe, mit KI erzeugte Biowaffen oder eine Superintelligenz, nicht nur von Staaten, sondern auch von Unternehmen oder Terroristen aus. Deshalb schützt militärische Stärke nicht vor solchen Risiken. Um einem Kontrollverlust und drohenden Risiken durch KI entgegenzuwirken, wären weltweite Vereinbarungen zur Rüstungskontrolle und zur Regulierung der KI erforderlich. Wirksam können solche Vereinbarungen aber nur sein, wenn alle großen Nationen mitmachen, auch China und Russland. Als Voraussetzung müssten aktuelle Kriege und Krisen beendet und Vertrauen aufgebaut werden. Die Aussichten dazu scheinen derzeit gering zu sein.
Blickt man auf die Dynamik technologischer Innovation, entsteht oft der Eindruck, dass technische Entwicklung schneller voranschreitet als politische Regulierung. Welche Rolle sollten Wissenschaft, Politik und Öffentlichkeit spielen, um bei KI-Entwicklungen rechtzeitig verantwortliche Leitplanken zu setzen?
Es ist wichtig, das nötige Bewusstsein für kommende Risiken bei der Politik, aber auch bei der Bevölkerung zu bilden. Die Wissenschaft kann dazu einen Beitrag leisten. Problematisch ist hier allerdings, dass führende KI-Wissenschaftler zwar auf extreme Risiken hinweisen, es jedoch keine wissenschaftlich fundierten Erkenntnisse gibt, ob, wann und mit welchen Folgen eine Superintelligenz entstehen könnte. Da die Folgen für die Menschheit aber extrem sein können und die Wahrscheinlichkeit dafür von den KI-Experten nicht als gering eingeschätzt wird, darf die Politik das weitere Geschehen nicht den KI-Unternehmen überlassen, sondern muss Entwicklungen, die zu einer Superintelligenz führen können, verhindern.
Zur Person
Prof. Dr. Karl-Hans Bläsius lehrte Informatik und Künstliche Intelligenz an der Hochschule Trier, gründete gemeinsam mit Ralf M. Ruthardt ein Startup für KI und Prozessautomatisierung und publiziert nunmehr zur Thematik Atomkrieg aus Versehen.