Normative und rechtliche Rahmenbedingungen beim Einsatz militärischer KI-Systeme

Einleitung

Ausgangspunkt der Untersuchung ist die Ermittlung der maßgeblichen völkerrechtlichen Normen. Am 8. Juli 2024 wurde in Kiew die Kinderklinik Ochmatdyt getroffen. Es konnte belegt werden, dass russische Marschflugkörper, deren Flug automatisiert erfolgt, das Krankenhaus mit hoher Wahrscheinlichkeit getroffen haben.¹ Der gegenwärtigen Kriege in der Ukraine und im Gazastreifen verdeutlichen die erhebliche praktische Relevanz der damit verbundenen Rechtsfragen. Derartige aktuelle Entwicklungen geben daher Anlass zu ihrer näheren völkerrechtlichen Untersuchung.

Grundlegende Zurechnungskriterien im Völkerstrafrecht

Das Völkerstrafrecht umfasst alle Normen, die auf der Ebene des Völkerrechts eine Strafbarkeit unmittelbar zu begründen vermögen.² Dabei ist das Völkerstrafrecht von dem allgemeinen humanitären Völkerrecht zu unterscheiden. Nicht jeder Verstoß gegen das humanitäre Völkerrecht begründet unmittelbar die Möglichkeit, das betreffende Individuum strafrechtlich zu verfolgen.

Auch ist eine Abgrenzung von der Staatenverantwortlichkeit erforderlich. Dabei wird der Staat selbst für eine Rechtsverletzung verantwortlich gemacht, wenn diese ihm zugerechnet werden kann. Eine solche Zurechnung kann sich bei der Verletzung einer völkerrechtlichen Pflicht, durch den Staat selbst oder seine Organe, aus Verträgen oder dem Gewohnheitsrecht ergeben. Hinsichtlich des Gewohnheitsrechts bedarf es der sogenannten opinio iuris, das heißt eine Rechtsüberzeugung hinsichtlich einer Norm, die dem Völkergewohnheitsrecht unmittelbar zugeordnet werden kann.³

Die Grundlage des Völkerstrafrechts bildet das Römische Statut des Internationalen Strafgerichtshofs. Auch die Charta der Vereinten Nationen ein wichtiger Bestandteil. Art. 21 IStGH-Statut regelt, dass anwendbare Verträge sowie die Grundsätze und Regeln des Völkerrechts, einschließlich der anerkannten Grundsätze des internationalen Rechts des bewaffneten Konflikts gelten. Im deutschen Recht gilt im Übrigen das Völkerstrafgesetzbuch (VStGB), dass sich an den Vorgaben des Statuts orientiert und diese umgesetzt hat.

Völkerrechtliche Verträge

Relevant ist zunächst das Genfer Abkommen aus 1864. Heute gelten die vier Genfer Abkommen von 1949 und die beiden Zusatzprotokolle von 1977. Sind sind der Ausgangspunkt des kodifizierten humanitären Völkerrechts. Nach Art. 59 II GG werden solche völkerrechtlichen Abkommen auf der Ebene des einfachen Bundesrechts behandelt.

Diese Abkommen bilden dabei das Kernstück des humanitären Völkerrechts. Dabei geht es vor allem um den Schutz vor Grausamkeit und Unmenschlichkeit in Kriegssituationen. Sie statuieren dabei ein Mindestniveau an Menschlichkeit, das in solchen prekären Situationen gewahrt werden soll. So ist in bewaffneten Konflikten zwischen Kämpfenden und Zivilpersonen sowie zwischen militärischen und nichtmilitärischen Objekten zu unterscheiden (sog. Unterscheidungsgebot, vgl. Art. 48 ZP I zu den Genfer Abkommen). Entscheidend ist auch die ex-ante erwartete zivile Begleitschädigung im Verhältnis zum erwarteten konkreten und unmittelbaren militärischen Vorteil (sog. Verhältnismäßigkeitsgebot, vgl. Art. 51 V b) ZP I zu den Genfer Abkommen). Es muss daher ein Mindestniveau gewährleistet werden, wonach der erwartete Schaden nicht außer des Verhältnis zum erwarteten militärischen Vorteil steht.⁴

In diesem Zusammenhang ist auch das Vorsorgeprinzip aus Art. 57 ZP I zu den Genfer Abkommen zu beachten. Danach ist bei Kriegshandlungen stets darauf zu achten, dass die Zivilbevölkerung, Zivilpersonen und zivile Objekte verschont bleiben. Sie dürfen nicht das Ziel militärischer Einsätze abbilden. Hier wird auch der sogenannte hors-de-combat-Fall⁵ relevant. Gemeint ist ein Soldat, der kampfunfähig wird und der dann, vergleichbar mit dem Schutz einer Zivilperson, besonderen Schutz genießt. Nun erkennt das Waffensystem diesen Soldat fälschlicherweise als unverletzt und damit kriegsfähig.⁶

Doktrin Yamashita-Standard

Die Haftung des Yamashita-Standards entstammt aus einem Prozess gegen den japanischen General Tomoyuki Yamashita im Jahr 1946. Es geht inhaltlich darum, dass der Kommandant haftet, wenn er die Kontrolle verlor und Verbrechen hätte verhindern müssen. Dabei war seine Stellung als zuständiger Kommandant ausschlaggebend und den sich daraus ergebenden Kontrollpflichten konnte er sich nicht entziehen. Der Supreme Court stellte fest, dass es seine Pflicht war, alle notwendigen Handlungen und Maßnahmen zu ergreifen, um die Zivilbevölkerung und Gefangene zu schützen.⁷ Die Haftungsdoktrin wurde anschließend in § 4 VStGB verankert. Danach ist ein militärischer Befehlshaber oder ein anderer Vorgesetzter verantwortlich, wenn er es unterlässt, einen Untergebenen daran zu hindern, eine Tat nach dem Völkerstrafgesetzbuch zu begehen. Gemeint ist damit etwa ein Kriegsverbrechen nach § 8 VStGB.

Das Konstrukt der Verantwortung ist allerdings deutlich komplexer. Es muss untersucht werden, welche konkreten Pflichten darüber hinaus den Entwicklern dieser Systeme, dem Staat sowie militärischen Kommandeuren aufzuerlegen sind.⁸ Eine ähnliche Mehrpersonenkonstruktion strafrechtlicher Verantwortlichkeit findet sich etwa bei dem bekannten Lederspray-Fall⁹. Dort ging es um die Verpflichtung der Geschäftsführer zum Rückruf eines Produkts. Der BGH konstruierte dabei sogar eine mittäterschaftliche Begehung, um die Ursächlichkeit bei der Grämienentscheidung begründen zu können.

Garantenstellung und Organisationsverantwortung, Befehlshaber- und Aufsichtspflichten

1. Militärische Befehlshaber

Hypothetische Fallkonstruktion

Angenommen, folgender Fall würde konstruiert: Der militärische Befehlshaber K befiehlt dem Soldaten S, ein autonomes Waffensystem (AWS) einzusetzen. Die konkrete Einsatzplanung und Durchführung obliegen S. Das anvisierte gegnerische Ziel befindet sich in einem teilweise zivil genutzten Gebiet und stellt ein militärisch bedeutsames Ziel dar. Zweck des Angriffs ist es, verbleibende Soldaten auszuschalten, die nach derzeitiger Kenntnislage durch den Einsatz von ferngesteuerten Robotern mit Waffen, Munition und Lebensmitteln versorgt werden. Während des Angriffs erfährt K, dass S den autonomen Einsatzbereich so weit festgelegt hat, dass sich darin auch ein Wohnhaus mit zahlreichen Zivilpersonen befindet. Er weiß, dass das AWS in komplexen Einsatzumgebungen zivile und militärische Objekte nicht immer zuverlässig unterscheiden kann.¹⁰ Eine weitere Aufklärung oder eine Beschränkung des autonomen Einsatzbereichs würde das Risiko ziviler Schäden verringern, könnte jedoch den beabsichtigten Überraschungseffekt gefährden. Obwohl K als Befehlshaber den Einsatz untersagen oder räumlich beschränken könnte, greift er nicht ein und nimmt eine weitere Verletzung von Zivilpersonen billigend in Kauf. Während des Angriffs erhält K zusätzlich die Meldung, dass bereits zahlreiche Zivilpersonen getroffen wurden. Gleichwohl ordnet er keinen Abbruch an. S weiß, dass bei Fortsetzung des Angriffs mit Sicherheit Zivilpersonen getötet oder verletzt werden. Gleichwohl setzt er den Angriff fort.

Es werden neben gegnerischen Soldaten auch zahlreiche Zivilpersonen getroffen. Unter anderem wird ein Wohnhaus zerstört, in dem sich viele geflüchtete Zivilpersonen aufhalten. Sie haben dort Schutz gesucht und sich versteckt. Dabei werden in etwa 100 Zivilpersonen und verwundete Soldaten getötet. Etwa 20 weitere Zivilpersonen werden lebensbedrohlich verletzt, verlieren teilweise Gliedmaßen und drohen zu verbluten.

Rechtliche Einordnung

Nach § 1 VStGB ist das VStGB auch dann anwendbar, wenn die Tat im Ausland begangen wurde und keinen Bezug zum Inland aufweist. Dabei handelt es sich um das sogenannte echte Weltrechtsprinzip.¹¹ Deutsches Recht und damit das VStGB finden damit ohne Weiteres Anwendung. Im Übrigen fungiert das VStGB hier im Rahmen des Komplementaritätsprinzips¹² im Verhältnis zum Römischen Statut des IStGH, vgl. Art. 17 IStGH-Statut. Der IStGH fungiert dabei als ein Notfall- oder Reservegericht.¹³

Letztlich liegen dem Grundsatz des Weltrechtsprinzips und dem Komplementaritätsprinzip folgende Überlegungen zugrunde: Sie folgen aus der consequentia mirabilis. Zwar berührt das Weltrechtsprinzip die Anknüpfungspunkte staatlicher Strafgewalt, dies rechtfertigt sich jedoch aus der besonderen Schutzdimension elementarer Interessen der Menschheit. Eine Negation dieses Ansatzes könnte einen solchen Schutz nicht gewährleisten, insbesondere im Lichte der UN-Charta und der Präambel des IStGH-Statuts.¹⁴

Eine Bestrafung nach deutschem Recht kann hier nur nach dem StGB, beziehungsweise dem VStGB erfolgen. Ein unmittelbarer Rückgriff etwa auf das Statut des IStGH oder der völkerrechtlichen Verträge würde gegen das Gesetzlichkeitsprinzip aus Art. 103 II GG verstoßen.¹⁵

Es kommt eine Strafbarkeit nach § 4 VStGB in Betracht. Danach wird ein militärischer Befehlshaber bestraft, wenn er es unterlässt, eine Tat nach dem Völkerstrafgesetzbuch zu verhindern. Zunächst muss daher geklärt werden, welcher Tatbestand des VStGB hier durch den Untergebenen S verletzt sein könnte.

Tat des Untergebenen

Ein Völkermord nach § 6 VStGB scheidet aus. Es könnte sich allerdings um ein Verbrechen gegen die Menschlichkeit nach § 7 VStGB handeln. Nach § 7 I Nr. 1 VStGB liegt ein solches vor, wenn im Rahmen eines ausgedehnten oder systematischen Angriffs gegen eine Zivilbevölkerung ein Mensch getötet wird. Der Angriff beschreibt einen allgemeinen Vorgang, in den sich verschiedene Einzeltaten einfügen.¹⁶ Der Angriffsbegriff ist weit zu fassen. Ein Angriff ist systematisch, wenn die Gewaltanwendung organisiert ist und planmäßig im Sinne eines konsequenten Handelns ausgeführt wird.¹⁷ Rein zufällige Ereignisse sind damit nicht gemeint. Ein Angriff ist ausgedehnt, wenn er sich über ein größeres geographisches Zielgebiet erstreckt und größere Zahl an Opfern mit sich bringt. Mittlerweile wird es überwiegend anerkannt, dass die Tatbestandsmerkmale „ausgedehnt" und „systematisch" alternativ, nicht aber kumulativ vorliegen müssen. Auf eine weitergehende Betrachtung kommt es hier allerdings nicht an.¹⁸

Bei dem Plan, das AWS in dem Zielgebiet einzusetzen, liegt jedenfalls keine ausgedehnte oder systematische Anwendung von Gewalt vor. Es bedarf einer Erheblichkeitskomponente, die eine Angriff in einem bestimmten organisierten Umfang erscheinen lässt. Das ist bei dem vorliegenden Angriff, der sich im Ausgangspunkt konkret nur auf ein Militärgebiet richten sollte, nicht der Fall. § 7 I Nr. 1 VStGB ist somit nicht erfüllt. Aus dem gleichen Grund scheidet auch § 7 I Nr. 8 VStGB aus.

Es könnte sich allerdings um ein Kriegsverbrechen nach § 8 VStGB handeln. Nach § 8 I Nr. 1 VStGB macht sich derjenige strafbar, der im Zusammenhang mit einem internationalen oder nicht internationalen bewaffneten Konflikt eine nach dem humanitären Völkerrecht zu schützende Person tötet. Dabei werden Auseinandersetzungen zwischen zwei oder mehr Staaten erfasst.¹⁹ Die nach dem humanitären Völkerrecht zu schützenden Personen sind in § 8 VI VStGB legaldefiniert. Nach § 8 VI Nr. 1 VStGB gehören zu den geschützte Personenn im Sinne der Genfer Abkommen und des Zusatzprotokolls I namentlich Verwundete, Kranke, Schiffbrüchige, Kriegsgefangene und Zivilpersonen.

Wie bereits erläutert, sind Zivilpersonen von Soldaten zu unterscheiden. Dies folgt aus dem Unterscheidungsgebot, vgl. Art. 48 ZP I zu den Genfer Abkommen. Ebenfalls müssen Zivilpersonen zwingend verschont bleiben, sog. Vorsorgeprinzip aus Art. 57 ZP I zu den Genfer Abkommen. Es wurden etwa 100 Zivilpersonen und verwundete Soldaten getötet sowie weitere Zivilpersonen verletzt. Dieser Schutz wurde hier somit nicht gewahrt, sodass § 8 I Nr. 1 VStGB erfüllt ist.

Die subjektiven Voraussetzungen müssen wegen wegen der Akzessorietät der Vorgesetztenhaftung auch bei S vorliegen. Auf der subjektiven Ebene ist zumindest ein dolus eventualis erforderlich, vgl. § 2 VStGB iVm § 15 StGB.²⁰ S hat eine mögliche Gefährdung erkannt und in Kenntnis dieser Tötung gehandelt.

In diesem Kontext ist auch auf eine Strafbarkeit nach § 11 I Nr. 3 VStGB einzugehen. Danach macht sich eine Person strafbar, die im Zusammenhang mit einem internationalen oder nichtinternationalen bewaffneten Konflikt mit militärischen Mitteln einen Angriff durchführt und dabei als sicher erwartet, dass der Angriff die Tötung oder Verletzung von Zivilpersonen zur Folge hat. Ebenfalls hat der deutsche Gesetzgeber in § 11 II VStGB eine Erfolgsqualifikation geregelt. Letztlich hat der Gesetzgeber in § 11 I Nr. 3 VStGB das Verhältnismäßigkeitsprinzip aus Art. 51 V b) ZP I zu den Genfer Abkommen verankert. Das verfolgte militärische Ziel darf damit nicht außer Verhältnis zu der Gefahr stehen, die durch den Einsatz geschaffen wurde. Ob ein solcher Verstoß vorliegt, ist durch Abwägung im Einzelfall zu bestimmen. Wie bereits hingewiesen, handelt es sich in einem solchen Fall nicht mehr um einen Begleitschaden. Der vorhersehbare zivile Kollateralschaden muss dabei so immens sein, dass eine Vornahme eines solchen Angriffs in keiner Weise mehr nachvollziehbar erscheint. Hier wurde der Angriff des AWS inszeniert und aufrecht erhalten, um den geplanten militärischen Überraschungseffekt nicht zu gefährden. Unter Zugrundelegung dieses Umstandes erscheint es nicht ausreichend, diesen Beweggrund alleine für die Tötung und Gefährdung entsprechender Personenzahlen hervorzubrringen. Eine Unverhältnismäßigkeit mit Blick auf den militärischen Vorteil ist somit gegeben.

In subjektiver Hinsicht ist nach § 11 I Nr. 3 VStGB das sichere Erwarten notwendig. Damit ist ein Dolus Directus 2. Grades, das heißt die sichere Kenntnis oder Wissentlichkeit erforderlich. S hat den Einsatzbereich des AWS so festgelegt, dass auch Zivilpersonen in Wohnhäusern getroffen werden könnten. Eine Kenntnis der Gefährdung der Zivilpersonen ist somit gegeben. § 8 I Nr. 3 VStGB ist erfüllt.

Zwischenergebnis

Der untergebene S hat folglich eine Tat nach dem VStGB begangen. Indem K diese Tat nicht verhindert hat, hat er sich nach § 4 VStGB strafbar gemacht. § 14 VStGB wegen Verletzung der Aufsichtspflicht ist nur einschlägig, wenn der Befehlshaber die Tat durch den Untergebenen nicht erkennt. Eine Strafbarkeit nach § 15 VStGB wegen Unterlassen der Meldung einer Straftat scheidet nach § 258 V StGB analog aus. Er muss sein strafbares Unterlassen nicht offenbaren.²¹

§ 3 VStGB ist grundsätzlich zu prüfen, da S auf militärischen Befehl des K handelt. Ohne Schuld handelt, wer die Rechtswidrigkeit seines Vorgehens nicht erkennt. S legt den Einsatzbereich eigenständig so fest, dass auch Zivilpersonen gefährdet werden. Damit kann er sich hinsichtlich dieser eigenverantwortlich vorgenommenen Einsatzgestaltung nicht auf § 3 VStGB berufen.

Ein weiterer Anwendungsbereich für das Statut des IStGH besteht hier im Übrigen nicht, da das VStGB die Straftat vollständig abdeckt.²²

2. Entwickler und Hersteller

Fallfortsetzung

Nun könnte der obige Fall weitergeführt werden. Der deutsche Entwickler E war für den gesamten Entwicklungsprozess zuständig. Der Entwickler E war für den gesamten Entwicklungsprozess zuständig. Dazu gehörte auch die Einstellung der Objekterkennungssoftware. Aufgrund eines Programmierfehlers wurden unsichere Erkennungen fälschlicherweise als militärische Ziele eingestuft und die eigentlich vorgesehene Warnmeldung an den Bediener unterdrückt.

Bei dem Einsatz erkannte das System Beile und Äxte, die Zivilpersonen zur Selbstverteidigung mitführten, fälschlicherweise als militärische Waffen. Dadurch wurde ein Wohnhaus als militärisches Ziel eingestuft und angegriffen.

Bei ordnungsgemäßer Programmierung wäre der Angriff nicht automatisch freigegeben worden. E hatte den Fehler pflichtwidrig nicht erkannt und die Software dennoch für den Einsatz freigegeben.

Rechtliche Einordnung

Deutsches Recht

Zunächst bestimmt § 2 VStGB, dass das allgemeine Strafrecht Anwendung findet, soweit die besonderen Bestimmungen des VStGB nicht einschlägig sind. Indem E diesen Fehler pflichtwidrig nicht erkannt hat, könnte er sich wegen fahrlässiger Tötung nach § 222 StGB strafbar gemacht haben. Da E deutscher Entwickler ist, gilt das aktive Personalitätsprinzip nach § 7 II Nr. 1 StGB bei einer solchen Tat im Ausland, sodass auch das deutsche Strafrecht Anwendung findet. Es stellt sich allerdings die Frage, ob der E eine strafrechtlich relevante Sorgfaltspflichtverletzung begangen hat und sich diese auch im Erfolg realisiert hat (Pflichtwidrigkeitszusammenhang). Auf Grundlage einer ex-ante Betrachtung ergeben sich Art und das Maß der Sorgfalt aus den Anforderungen, die angesichts der Gefahrenlage von einem gewissenhaften Menschen zu erwarten sind. Als verantwortlicher Entwickler der war E verpflichtet, die sicherheitsrelevanten Funktionen vor der Freigabe des AWS zu überprüfen. Grundsätzlich kann ein Entwickler allerdings nicht für jeden Fehler im Programmierungsprozess strafrechtlich verantwortlich gemacht werden. Häufig genügt insoweit eine solche Klärung über das Zivilrecht aus.²³ Freilich wäre es strafrechtlich relevant, wenn der Entwickler beispielsweise mit dem militärischen Team zusammenarbeitet und bewusst bestimmte Funktionen in dem AWS einbaut.²⁴

IStGH-Recht

Nach Art. 25 I IStGH-Statut hat der IStGH die Gerichtsbarkeit über natürliche Personen. In Art. 25 III IStGH-Statut ist geregelt, unter welchen Voraussetzungen sich eine natürliche Person strafbar gemacht hat. Eine gemeinschaftliche Begehung nach Art. 25 III lit. a IStGH-Statut oder eine Anstiftung nach Art. 25 III lit. b IStGH-Statut scheiden hier aus. Zunächst kommt vorliegend Art. 25 III lit. c IStGH-Statut in Betracht. Danach ist strafbar, wer zur Erleichterung eines solchen Verbrechens Beihilfe oder sonstige Unterstützung leistet. Damit werden solche Handlungen erfasst, die unmittelbar darauf abzielen, das Verbrechen zu fördern. Es reicht sogar die bloße Ermutigung aus.²⁵ E hat die Programmierung des AWS vollständig übernommen und durchgeführt. Ohne seine Entwicklung dieses Systems wäre es nicht einsatzfähig gewesen. Er hat die Tat des K damit unterstützt.

Zur Erfüllung des Tatbestands müsste E allerdings auch die subjektiven Voraussetzungen erfüllen. Diese richten sich grundsätzlich nach Art. 30 IStGH-Statut²⁶, sofern nichts anderes bestimmt ist. Die Unterstützungshandlung muss zur Erleichterung der Haupttat erfolgen. Die unterstützende Person muss diese Wirkung ihres Beitrags damit unmittelbar bezwecken. S ging davon aus, dass das AWS nicht für derartige Einsätze verwendet wird. Ihm kam es bei der Entwicklung daher nicht darauf, bewusst einen solchen Angriff zu unterstützen. In der Praxis wird es hier regelmäßig darum gehen, ob eine solche Verwendung möglicherweise billigend in Kauf genommen wurde, wenn Anhaltspunkte für entsprechende Absichten bestanden. Dann würde die Diskussion um die Anerkennung des Eventualvorsatzes in dem Kontext relevant werden. Oft arbeiten ehemalige Soldaten selbst an der Entwicklung entsprechender Systeme, sodass die Abgrenzung nicht nahtlos verläuft. Eine strafrechtliche Verantwortlichkeit kommt dann in Betracht, wenn die Software so gestaltet wurden, dass sie für (völker-)rechtswidrige Handlungen genutzt werden.

Ausblick

Es konnte festgestellt werden, dass sich die Gesamtheit des völkerstrafrechtlichen Konstrukts als eine Systematik darstellen lässt, die eine Konsequenz der zu gewährleistenden Humanität ist. Nach Art. 36 ZP I zu den Genfer Abkommen ist jede hohe Vertragspartei verpflichtet, bei der Prüfung, Entwicklung oder Einführung neuer Waffen festzustellen, ob die jeweilige Verwendung den Vorgaben der anwendbaren Regeln des Völkerrechts entspricht. Dabei handelt es sich um eine staatliche Prüfpflicht, die noch in einem gesonderten Artikel behandelt wird.

Annika S. Zierhut

Juristin, Mag. iur., Recht, Technologie und KI