Bei einer kürzlichen Anhörung wurde Gesetzgebern mitgeteilt, dass das US-Militär diese Technologie einsetzt, um Gegner ins Visier zu nehmen – wobei auch Zivilisten in die Schusslinie geraten.

Nick Cleveland-Stout

Palantir-CEO Alex Karp erklärte 2024 auf einem Podium: „Technologie sollte in der Lage sein, das Ausmaß von Kollateralschäden und zivilen Todesopfern drastisch zu reduzieren.“ Der ehemalige Google-CEO Eric Schmidt und der ehemalige stellvertretende CIA-Direktor David Cohen schlossen sich dieser Ansicht an.

Befürworter des Einsatzes künstlicher Intelligenz beim Militär führen schon lange ein ähnliches Argument ins Feld: Die Einführung von KI beim Militär werde zu weniger zivilen Opfern führen.

Der Abgeordnete Jim McGovern (Demokrat aus Massachusetts) fasste dieses Argument am Mittwoch während einer Kongressanhörung zum Einsatz von KI beim Militär zusammen: „Unsere Regierung hat argumentiert, dass KI die Einschätzung der wahrscheinlichen Auswirkungen militärischer Operationen verbessern und das Risiko ziviler Opfer verringern könnte“, sagte McGovern. „Das ist das Argument, das uns präsentiert wird. Ich meine, sind sich da alle einig?“

Diese Frage ist längst nicht mehr rein theoretischer Natur, da das US-Militär KI bereits einsetzt. Allein in den ersten 38 Kriegstagen griff das Pentagon 13.000 Ziele an – unterstützt durch das „Maven Smart System“ von Palantir, das bei der Zielidentifizierung und der Auswahl der für die Angriffe genutzten Waffen half.

Doch Experten bei der von der Tom Lantos Human Rights Commission veranstalteten Anhörung erklärten, das Argument, KI verringere zivile Opfer, werde durch die tatsächlichen Gegebenheiten vor Ort schlicht nicht gestützt; als Belege verwiesen sie auf den Iran, die Ukraine, den Jemen und den Gazastreifen.

„Dem widerspreche ich“, sagte Steven Feldstein, Senior Fellow im Programm für Demokratie, Konflikt und Regierungsführung bei der Carnegie Endowment for International Peace. Während manche behaupten, die Zielgenauigkeit von KI-Systemen liege bei bis zu 90 Prozent, liegt der tatsächliche Wert laut Feldstein eher bei 50 Prozent.

Auch Deborah Brown, stellvertretende Leiterin des Bereichs Technologie, Rechte und Untersuchungen bei Human Rights Watch, ließ sich von diesem Argument nicht überzeugen. „Ob Israel im Gazastreifen oder der Iran – die Beweislage deutet nicht darauf hin, dass dadurch der Schaden begrenzt wird; schließlich ist die Zahl der zivilen Todesopfer hoch.“ Gesetzgeber haben die Frage aufgeworfen, ob KI eine Rolle bei dem Angriff auf eine Grundschule für Mädchen in Minab (Iran) am 28. Februar gespielt hat, bei dem mehr als 170 Menschen ums Leben kamen. Shyam Sankar von Palantir argumentierte mit Blick auf die menschliche Komponente für den militärischen Einsatz von „Maven“, als er auf die mutmaßliche Rolle seines Unternehmens bei dem Angriff angesprochen wurde. „Für diese Mädchen ist es zweifellos eine Tragödie“, sagte Sankar. „Ich möchte jedoch betonen, dass Technologie in der Geschichte der Kriegsführung stets dazu beigetragen hat, Kollateralschäden zu verringern.“

Feldstein gab jedoch zu bedenken: „Selbst wenn die Präzision höher ist, dürfte die Gesamtzahl der zu Schaden gekommenen Zivilisten weitaus höher ausfallen, da die Anzahl der Ziele so viel größer ist.“

So behaupten die Israelischen Verteidigungsstreitkräfte (IDF) beispielsweise, mit „Lavender“ – ihrem im Gazastreifen eingesetzten KI-Zielsystem – eine Treffergenauigkeit von 90 % zu erzielen. Amanda Klasing, Leiterin der Abteilung für Regierungsbeziehungen und Interessenvertretung bei Amnesty International USA, wies jedoch darauf hin, dass die Genauigkeit keine Rolle spiele, wenn der Grundsatz der Verhältnismäßigkeit „völlig außer Kraft gesetzt“ werde – etwa wenn eine 2.000-Pfund-Bombe auf ein Wohngebäude abgeworfen werde.

KI-Systeme führen zudem Anweisungen aus, die auf von Menschen festgelegten Einsatzregeln basieren; diese Regeln wiederum können auf Vorgaben beruhen, bei denen die Vermeidung ziviler Opfer keine Priorität hat. Wenn ein Militär entscheidet, „dass es akzeptabel ist, wenn für jeden anvisierten Verdächtigen fünf Zivilisten sterben... dann gibt man der Maschine vor, was akzeptabel ist“, so Feldstein.

Mithilfe von „Lavender“ wurden 37.000 palästinensische Männer als Ziele identifiziert. Eine Geheimdienstquelle berichtete dem Guardian jedoch, man habe ständig unter Druck gestanden, weitere Ziele zu liefern. „Die Zahlen änderten sich ständig, da es darauf ankommt, wo man die Schwelle dafür ansetzt, was als Hamas-Aktivist gilt“, hieß es. Die IDF genehmigten auch Angriffe auf Ziele von geringer Bedeutung, selbst wenn dies den Tod von 15 bis 20 Zivilisten als Kollateralschaden zur Folge hatte.

Während Befürworter versprechen, dass KI zu einer humaneren Kriegsführung führen werde, wurde die Ausbildung zur Vermeidung ziviler Opfer ausgehöhlt. Das „Civilian Protection Center of Excellence“ des Pentagon, das 2023 gegründet wurde, um die Einsatzkommandos in Methoden zur Vermeidung ziviler Opfer zu schulen, reduziert sein Personal von 40 Mitarbeitern im Januar 2025 auf nur noch neun bis Ende dieses Jahres. Zeugen wiesen darauf hin, dass ein Teil des Problems darin besteht, dass das Pentagon keine Belege dafür vorgelegt hat, dass KI-Systeme zivile Schäden verringern. „Wenn es tatsächlich so ist, dass dadurch zivile Schäden begrenzt werden und die Systeme präziser und effektiver arbeiten, dann sollten wir auch die entsprechenden Belege sehen“, sagte Brown.