---
service: "Publicasta"
schema_version: "1.0"
article_id: 1268
title: "Genfer Gespräche über autonome Waffen stellen die praktische Bedeutung menschlicher Kontrolle auf die Probe"
language: "de"
default_language: "en"
canonical_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test?lang=de"
json_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.json?lang=de"
api_url: "https://publicasta.com/api/public/v1/channels/robots/articles/geneva_autonomous_weapons_talks_human_control_test?lang=de"
channel_url: "https://publicasta.com/api/public/v1/channels/robots"
channel_articles: "https://publicasta.com/api/public/v1/channels/robots/articles"
search_url: "https://publicasta.com/api/public/v1/search"
documentation_url: "https://publicasta.com/api-docs#reading-publicasta"
openapi_url: "https://publicasta.com/api-docs/openapi.json"
published_at: "2026-11-16T17:22:16+00:00"
updated_at: "2026-11-16T17:22:16+00:00"
translations:
  - language: "ar"
    html_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test?lang=ar"
    markdown_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.md?lang=ar"
    json_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.json?lang=ar"
  - language: "de"
    html_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test?lang=de"
    markdown_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.md?lang=de"
    json_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.json?lang=de"
  - language: "en"
    html_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test?lang=en"
    markdown_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.md?lang=en"
    json_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.json?lang=en"
  - language: "es"
    html_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test?lang=es"
    markdown_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.md?lang=es"
    json_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.json?lang=es"
  - language: "fr"
    html_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test?lang=fr"
    markdown_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.md?lang=fr"
    json_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.json?lang=fr"
  - language: "pl"
    html_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test?lang=pl"
    markdown_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.md?lang=pl"
    json_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.json?lang=pl"
  - language: "ru"
    html_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test?lang=ru"
    markdown_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.md?lang=ru"
    json_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.json?lang=ru"
  - language: "zh"
    html_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test?lang=zh"
    markdown_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.md?lang=zh"
    json_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.json?lang=zh"
---

# Genfer Gespräche über autonome Waffen stellen die praktische Bedeutung menschlicher Kontrolle auf die Probe

> Auf der UN-Überprüfungskonferenz im November 2026 wird geprüft, ob Verhandlungen über autonome Waffen beginnen sollen. Entscheidend ist nicht, ob eine Drohne allein fliegen kann, sondern wer Ziele auswählt, Grenzen setzt und verantwortlich bleibt, wenn Software Gewalt anwendet.

## Was diese Woche in Genf tatsächlich entschieden wird

 ![Diplomaten bei einem Treffen in Genf neben einer abstrakten Anzeige automatisierter Systeme](https://publicasta.com/storage/projects/11/pages/1268/2026/11/0a2c00b7-f57e-4f71-8046-dae27e50be63.webp)

 Die Siebte Überprüfungskonferenz des Übereinkommens über bestimmte konventionelle Waffen tagt vom 16. bis 20. November 2026 in Genf. Zu den Themen auf ihrer Tagesordnung gehören tödliche autonome Waffensysteme. Die Konferenz ist weder ein Test auf dem Schlachtfeld noch eine Technologiedemonstration. Sie ist ein diplomatischer Test dafür, ob Regierungen von der allgemeinen Sorge über Waffen, die Gewalt mithilfe von Software anwenden, zu einer präziseren Entscheidung darüber gelangen können, wie es weitergehen soll. Das vom UN-Büro für Abrüstungsfragen vorbereitete Programm setzt das Thema auf die Tagesordnung und sieht Arbeiten an einem Schlussdokument vor. Damit erhalten die Staaten einen formellen Rahmen, um zu prüfen, ob die bisherigen Gespräche in Verhandlungen münden sollten.

 Diese Unterscheidung ist wichtig, denn die zentrale Frage lautet nicht, ob eine Drohne ohne fortlaufende Steuerbefehle per Joystick fliegen, navigieren oder in der Luft bleiben kann. Es geht darum, ob ein System nach seiner Aktivierung ohne weitere menschliche Eingriffe Ziele auswählen und Gewalt gegen sie anwenden kann – und ob die von den Staaten beschlossenen Regeln präzise genug sind, um diesen Prozess zu kontrollieren. Genf wägt daher sowohl die inhaltliche als auch die verfahrensbezogene Seite ab: Welche Art von Instrument könnte ausgehandelt werden, und kann sich die Konferenz überhaupt darauf verständigen, diese Arbeit aufzunehmen?

 Nach Angaben der Associated Press haben Österreich, Belgien, Brasilien, Irland, Mexiko, Neuseeland und Panama vorgeschlagen, Verhandlungen über ein rechtsverbindliches Instrument aufzunehmen. Ein solcher Vorschlag würde die Diskussion über allgemeine Besorgniserklärungen hinausführen und hin zur schwierigen Aufgabe, konkrete Verpflichtungen festzulegen. Ein verbindliches Instrument würde Regierungen zwingen, Fragen zu klären, die in politischen Erklärungen oft absichtlich vage bleiben: Welche Systeme oder Funktionen fallen in seinen Anwendungsbereich, welche Grenzen sollen für ihren Einsatz gelten, und wie bleibt die Verantwortung gewahrt, wenn das Verhalten einer Waffe teilweise durch Sensoren, Software und voreingestellte Parameter bestimmt wird?

 Der Vorschlag garantiert nicht, dass Verhandlungen beginnen. Die Konferenz arbeitet nach dem Konsensprinzip. Daher könnte das endgültige Ergebnis weiterhin eine Verfahrensentscheidung oder ein Text auf dem kleinsten gemeinsamen Nenner sein, statt einer Vereinbarung über die Aushandlung detaillierter Beschränkungen. Diese Möglichkeit ist keine technische Randnotiz. Sie gehört zu dem Thema, über das in dieser Woche entschieden wird. Eine Konferenz kann die Risiken anerkennen, anhaltende Meinungsverschiedenheiten festhalten und die Staaten anweisen, weiter zu beraten, ohne ein neues Rechtsinstrument zu schaffen. Sie kann aber auch einen Verhandlungsprozess eröffnen, dessen Ergebnis ungewiss bleibt. Das sind inhaltlich unterschiedliche Ergebnisse, selbst wenn jedes davon öffentlich als Fortschritt bezeichnet wird.

 Der Begriff „menschliche Kontrolle“ steht im Mittelpunkt dieser Unsicherheit. Er kann wie eine einfache Schutzvorkehrung klingen: Irgendwo in der Kette bleibt ein Mensch beteiligt, bevor eine Waffe eingesetzt wird. Eine sinnvolle Regel müsste jedoch weiter gehen. Sie müsste klären, wer die Zielkategorie auswählt, wer die geografischen und operativen Grenzen festlegt, wie lange das System suchen darf, über welche Informationen die Bedienperson verfügt und ob das System unterbrochen oder gestoppt werden kann, wenn sich die Umstände ändern. Diese Fragen zeigen, warum die Debatte in Genf nicht auf eine Entscheidung zwischen Menschen und Maschinen reduziert werden kann. Moderne militärische Systeme können ferngesteuerten Betrieb, automatisierte Navigation, Sensorverarbeitung und Waffenwirkung auf unterschiedliche Weise miteinander verbinden. Eine künftige Regel muss diese Funktionen voneinander unterscheiden, statt jedes autonome Merkmal als dasselbe rechtliche Problem zu behandeln.

 Die unmittelbare Entscheidung der Konferenz ist folglich enger gefasst als die weitreichenden Aussagen, die häufig mit autonomen Waffen verbunden werden. Die Staaten stimmen nicht einfach darüber ab, ob künstliche Intelligenz in der Kriegsführung existieren soll. Ebenso entscheiden sie nicht darüber, ob jede Drohne, die Automatisierung nutzt, eine verbotene Waffe ist. Sie entscheiden, ob der internationale Prozess mit der Aushandlung von Regeln für Systeme beginnen soll, die in der Lage sind, mit eingeschränktem oder fehlendem Eingreifen im Moment des Angriffs Ziele auszuwählen und Gewalt anzuwenden. Die Antwort wird die nächste Phase der Debatte prägen, aber nicht allein festlegen, was ein späterer Vertrag verbieten, erlauben oder vorschreiben würde.

 Deshalb sollte das Abschlussdokument nach seinem operativen Wortlaut gelesen werden, nicht nach seinen Schlagzeilen. Ein Verweis auf Verhandlungen, ein Mandat für weitere Arbeiten und eine allgemeine Bekräftigung des humanitären Völkerrechts haben jeweils andere praktische Folgen. Die Konferenz kann Dynamik schaffen, doch die Politik des Konsenses könnte das Ergebnis einengen. Für Leserinnen und Leser, die verstehen wollen, was sich durch Genf verändert, ist der erste Prüfstein daher klar: Haben sich die Staaten darauf geeinigt, ein rechtsverbindliches Instrument auszuhandeln, oder lediglich darauf, das Problem weiter zu erörtern?

 ## Die Grenze der Autonomie liegt bei der Zielauswahl, nicht einfach beim Flug

 Eine Drohne, die ohne Pilot navigieren kann, ist nicht automatisch eine autonome Waffe. Entscheidend ist, was das System nach seiner Aktivierung tut. Eine ferngesteuerte bewaffnete Drohne kann Software einsetzen, um den Flug zu stabilisieren, einer Route zu folgen, Hindernissen auszuweichen oder zur Basis zurückzukehren, während ein menschlicher Bediener weiterhin entscheidet, welches Objekt angegriffen und wann Gewalt angewendet wird. Diese automatisierten Funktionen können erheblich sein, beantworten aber nicht die zentrale Frage: Wer wählt das Ziel aus, und wer genehmigt den Gewalteinsatz?

 Das Internationale Komitee vom Roten Kreuz definiert ein autonomes Waffensystem anhand seiner Wirkungen nach der Aktivierung. Im maßgeblichen Sinn kann das System Ziele ohne weitere menschliche Intervention auswählen und Gewalt gegen sie anwenden. Dadurch rückt die Vorstellung einer Maschine, die wie ein Mensch „denkt“, in den Hintergrund. Eine Waffe muss keine umfassenden strategischen Entscheidungen treffen, um das rechtliche und operative Problem zu schaffen. Es genügt, dass Software anhand von Sensoren und programmierten Regeln bestimmt, welches Objekt in eine zulässige Zielklasse fällt, und es anschließend bekämpft, ohne dass ein Mensch für jeden Angriff die endgültige Auswahl trifft. ([IKRK, „Frequently asked questions on autonomous weapon systems“](https://www.icrc.org/en/article/faq-autonomous-weapon-systems))

 Drei Systeme können sich daher ähneln und dennoch unterschiedliche Fragen aufwerfen. Eine ferngesteuerte bewaffnete Drohne bleibt in einer menschlichen Entscheidungskette, selbst wenn ihre Navigations- und Kamerasysteme weitgehend automatisiert sind. Eine autonome Navigationsfunktion kann einem Fluggerät oder einer Munition ermöglichen, sich selbstständig durch eine Umgebung zu bewegen; Bewegung ist jedoch nicht dasselbe wie Zielauswahl. Die maßgebliche Grenze wird überschritten, wenn ein System nach seiner Aktivierung Ziele ohne weitere menschliche Intervention identifizieren und bekämpfen darf. Der Test lautet nicht, ob die Plattform allein fliegen kann. Entscheidend ist, ob ihre Autonomie bis zur Entscheidung über den Gewalteinsatz reicht.

 Das Wort „autonom“ kann mehrere unterschiedliche Funktionen bezeichnen. Ein Fahrzeug kann die Flughöhe halten, Gelände erkennen, eine Route berechnen oder eine Kollision vermeiden. Ein Abwehrsystem kann eine anfliegende Bedrohung erkennen und abfangen. Eine Munition kann Informationen aus mehreren Sensoren zusammenführen und entscheiden, dass ein Objekt einem voreingestellten Merkmal entspricht. Eine umherkreisende Waffe kann ein Gebiet durchsuchen und etwas angreifen, das einem allgemeinen Zielprofil entspricht. Diese Systeme bergen nicht dieselben Risiken und lassen sich nicht verantwortungsvoll beurteilen, indem man nur fragt, ob am Anfang des Einsatzes ein Mensch beteiligt war.

 Die Beispiele des IKRK zeigen, warum defensive und offensive Anwendungen weiterhin sorgfältig geprüft werden müssen. Systeme zur Abwehr anfliegender Raketen oder Flugzeuge können mit Geschwindigkeiten arbeiten, die kaum Zeit für ein Eingreifen lassen. Sensorverknüpfte Munition kann freigesetzt werden, bevor die Waffe das konkrete Objekt identifiziert hat, das sie treffen wird. Umherkreisende Waffen können in einem Gebiet verbleiben, Sensordaten verarbeiten und ein Ziel angreifen, das einer allgemeinen Beschreibung entspricht, statt einer namentlich bezeichneten Person oder einem eindeutig identifizierten Fahrzeug. In jedem Fall kommt es auf das Verhältnis zwischen der ursprünglichen menschlichen Entscheidung und der späteren Maschinenhandlung an: Was genau hat die Person genehmigt, und wie viel des späteren Gewalteinsatzes wurde dem System überlassen? ([IKRK, „Autonomous weapon systems and international humanitarian law“](https://www.icrc.org/en/article/autonomous-weapon-systems-and-international-humanitarian-law-selected-issues))

 Genau deshalb verschleiert es das technische und rechtliche Problem, jede autonome Drohne als „Killerroboter“ zu bezeichnen. Das Etikett fasst Navigation, Überwachung, Zielerkennung und Waffeneinsatz zu einer einzigen Kategorie zusammen. Dadurch kann ein Fluggerät mit automatisierter Flugunterstützung wie eine Waffe erscheinen, die selbstständig nach Zielen sucht und sie angreift. Umgekehrt kann es die entscheidende Autonomie einer Munition oder eines Abfangsystems verdecken, weil die sichtbare Plattform scheinbar weiterhin unter menschlicher Kontrolle steht. Eine präzise Debatte muss daher bestimmen, welche Funktion autonom ist – und nicht nur, welche Hardware sie trägt.

 Das entgegengesetzte Kurzurteil ist ebenso irreführend. Ein System als „menschengesteuert“ zu bezeichnen, klärt die Frage nicht, wenn die menschliche Rolle darauf beschränkt ist, den Start auszulösen, bevor die Waffe innerhalb eines großen Gebiets sucht, auswählt und angreift. Auch die Anwesenheit eines Bedieners in einem Kontrollraum belegt keine wirksame Kontrolle über jedes Ergebnis. Die praktischen Fragen sind enger gefasst: Welche Zielklasse wurde definiert? Welche Informationen können die Sensoren unterscheiden? Welches geografische Gebiet und welches Zeitfenster wurden festgelegt? Und kann das System gestoppt oder umgelenkt werden, bevor Gewalt angewendet wird? Diese Fragen entscheiden darüber, ob die menschliche Entscheidung mit dem konkreten Gewalteinsatz verbunden bleibt.

 Für die Gespräche in Genf ist diese Abgrenzung von großer Bedeutung. Regeln, die sich an Plattformen orientieren – Drohnen, Raketen oder Geschütztürmen –, könnten dieselbe Zielfunktion übersehen, wenn sie in ein anderes System verlagert wird. Regeln, die um den Begriff „Autonomie“ herum formuliert sind, könnten harmlose Navigationsfunktionen erfassen, ohne den problematischen Gewalteinsatz genau zu bestimmen. Ein praktikabler Test beginnt mit dem Handlungsablauf: Eine Person aktiviert das System; das System sammelt und interpretiert Informationen; es wählt anhand seiner Programmierung ein Ziel aus; und es wendet Gewalt an. Entscheidend ist, ob zwischen Zielauswahl und Angriff weiterhin ein menschliches Eingreifen erforderlich ist und ob die bei der Aktivierung gesetzten Grenzen konkret genug sind, um diese Delegation überprüfbar zu machen.

 ## Warum sich menschliche Kontrolle nur schwer in eine technische Vorgabe übersetzen lässt

 „Menschliche Kontrolle“ klingt nach einer eindeutigen Schutzvorkehrung, bis man sie in die Bedingungen übersetzt, unter denen eine Waffe nach einem Ziel suchen, es auswählen und angreifen darf. Eine Person kann ein System aktivieren, einen Einsatz genehmigen oder in der Nähe bleiben, während die Software die entscheidenden Schritte ausführt. Diese Formen der Beteiligung sind nicht zwangsläufig gleichwertig. Die praktische Frage lautet, ob die menschliche Rolle in dem Moment, in dem Gewalt angewendet wird, tatsächlich maßgeblich ist – und ob die betreffende Person über genügend Informationen, Befugnisse und Zeit verfügt, um einen rechtswidrigen oder irrtümlichen Angriff zu verhindern.

 Damit wird Autonomie ebenso sehr zu einem Problem der Systemgestaltung wie zu einer Frage, wer den Startknopf drückt. Jede künftige Regel müsste untersuchen, wie vorhersehbar die Ergebnisse eines Systems in der Umgebung sind, in der es eingesetzt wird. Eine Waffe, die in einem begrenzten Gebiet gegen eine genau definierte Zielklasse eingesetzt wird, stellt ein anderes Kontrollproblem dar als ein System, das in einer sich verändernden Umgebung nach Objekten sucht, die einem weiten oder allgemein gehaltenen Profil entsprechen. Je kleiner die zulässige Zielmenge und das Einsatzgebiet sind, desto leichter kann es sein, im Voraus festzustellen, welchen Situationen das System begegnen kann und was es tun darf. Doch auch enge Einsatzbedingungen machen es erforderlich zu prüfen, ob das System das freigegebene Ziel von Menschen, zivilen Gegenständen oder anderen geschützten Objekten in der Nähe unterscheiden kann.

 Auch die Einsatzdauer spielt eine Rolle. Ein System, das innerhalb eines kurzen, kontrollierten Zeitfensters handelt, lässt sich möglicherweise leichter überwachen als eines, das seine Suche fortsetzen kann, nachdem sich die Umstände verändert haben. Der Zeitverlauf kann die Bedeutung einer Zielsignatur, die Anwesenheit von Zivilpersonen und die militärische Notwendigkeit eines Angriffs verändern. Eine menschliche Entscheidung vor der Aktivierung kann daher nicht automatisch als Ersatz für eine fortlaufende Beurteilung gelten. Zu den relevanten Schutzvorkehrungen können Beschränkungen gehören, wo die Waffe operieren darf, wie lange sie aktiv bleiben kann und was geschieht, wenn sie auf Bedingungen trifft, die außerhalb der Annahmen liegen, auf deren Grundlage ihr Einsatz genehmigt wurde.

 Auch für die Verantwortlichkeit ist Vorhersehbarkeit von zentraler Bedeutung. Eine Bedienperson muss auf einer für die Praxis ausreichenden Ebene verstehen, was das System erkennen soll, wie es reagieren könnte und welche Unwägbarkeiten sein Verhalten beeinflussen können. Das bedeutet nicht, dass jemand während eines Einsatzes jeden einzelnen Softwareschritt berechnen muss. Es bedeutet aber, dass die wahrscheinlichen Auswirkungen des Systems so weit eingegrenzt sein müssen, dass die Entscheidung über seinen Einsatz beurteilt werden kann, bevor Gewalt angewendet wird. Sind die Ergebnisse undurchsichtig, instabil oder nur schwer vorhersehbar, kann eine formelle Genehmigung praktisch wenig Kontrolle über das Resultat bieten.

 Dasselbe Problem betrifft die Möglichkeit des Eingreifens. Es genügt nicht zu sagen, ein Mensch könne eine Waffe technisch unterbrechen, wenn die Bedienperson den Anlass dazu nicht erkennen kann, keine verlässliche Kommunikation hat, Informationen zu spät erhält oder nicht wirksam befugt ist, den Einsatz abzubrechen. Die Unterbrechung muss zusammen mit der Geschwindigkeit der Waffe, dem Situationsverständnis der Bedienperson und dem Verhalten des Systems bei verzögerten oder ausbleibenden Befehlen betrachtet werden. Eine Kontrollregelung, die nur auf dem Papier besteht, unter Einsatzbedingungen aber nicht funktionieren kann, beantwortet die zugrunde liegende rechtliche und ethische Frage nicht.

 Das humanitäre Völkerrecht liefert bereits die maßgeblichen Verpflichtungen. Konfliktparteien müssen zwischen Zivilpersonen und Kombattanten sowie zwischen zivilen Objekten und militärischen Zielen unterscheiden; sie müssen Angriffe vermeiden, bei denen im Verhältnis zum erwarteten militärischen Vorteil mit übermäßigen Schäden für Zivilpersonen zu rechnen ist; und sie müssen bei Angriffen alle praktisch möglichen Vorsichtsmaßnahmen treffen. Die Schwierigkeit besteht nicht darin, dass Autonomie ein eigenes rechtliches Universum schafft. Sie liegt darin, dass undurchsichtige oder anpassungsfähige Zielerfassung die Beurteilung dieser Pflichten vor einem Angriff erschweren kann, also zu dem Zeitpunkt, an dem die maßgeblichen Entscheidungen getroffen werden müssen.

 Die Unterscheidung macht das Problem deutlich. Ein System kann möglicherweise ein technisches Muster erkennen, das mit einem zulässigen Ziel verbunden ist, und dennoch Schwierigkeiten haben, wenn sich der Kontext ändert oder zivile und militärische Aktivitäten überschneiden. Die Verhältnismäßigkeit verlangt eine Bewertung des erwarteten Schadens für Zivilpersonen im Verhältnis zum erwarteten militärischen Vorteil, nicht bloß die Klassifizierung eines Objekts. Vorsichtsmaßnahmen müssen der jeweiligen Situation entsprechend geplant und überprüft werden. Wenn der Nutzer nicht zuverlässig wissen kann, wie das System seine Umgebung deutet, kann die menschliche Entscheidung von den Auswirkungen losgelöst sein, die der Angreifer nach dem Recht vorhersehen muss.

 Deshalb darf die Verantwortlichkeit nicht mit der ursprünglichen Genehmigung enden. Ermittler müssen rekonstruieren können, was das System wahrgenommen hat, wie es etwas klassifiziert hat, welche Beschränkungen aktiv waren, was die Bedienperson wusste und welche Eingriffsmöglichkeiten bestanden. Aufzeichnungen und Erklärbarkeit machen einen Angriff nicht allein rechtmäßig. Ohne sie wird es jedoch schwieriger festzustellen, ob ein Fehler auf die Konstruktion der Waffe, die Missionsparameter, die Entscheidung der Bedienperson oder die übergeordnete Befehlskette zurückzuführen war. Eine Regel, die menschliche Kontrolle verlangt, muss daher nicht nur die Überwachung in Echtzeit erfassen, sondern auch die Beweismittel, die nach einem Vorfall benötigt werden.

 Die bloße Autonomie bei der Navigation beantwortet diese Fragen nicht. Eine Drohne kann navigieren, ohne fortlaufend gesteuert zu werden, während die Auswahl des Ziels und die Anwendung von Gewalt bei einer Person verbleiben. Das ist eine andere Anordnung als bei einer Waffe, die nach ihrer Aktivierung selbstständig Ziele auswählt und angreift. Entscheidend ist die Funktion, die autonom bleibt, wenn Gewalt angewendet wird. Ein sinnvoller Test menschlicher Kontrolle muss daher die gesamte Kette verfolgen – vom zulässigen Ziel und Einsatzgebiet über Suche und Identifizierung bis zur Entscheidung über die Gewaltanwendung sowie zur Möglichkeit, das Ergebnis zu stoppen oder zu untersuchen.

 ## Der Praxistest für jede künftige Regel

 Am sinnvollsten lässt sich ein künftiges Abkommen über autonome Waffen beurteilen, wenn man weitreichende Zusicherungen, Menschen würden „in der Kontrollschleife“ bleiben, beiseitelässt und fragt, was der Mensch tatsächlich kontrolliert. Wählt eine Person jedes einzelne Ziel aus oder legt sie nur ein allgemeines Zielprofil fest? Ist das System lediglich bei der Navigation autonom oder identifiziert und bekämpft es Objekte nach der Aktivierung selbst? Kann die Bedienperson vor dem Start ein klares Einsatzgebiet, eine zeitliche Begrenzung und die Wirkung der Waffe festlegen? Diese Unterschiede sind entscheidend, denn eine Drohne, die zu einem Ort fliegt, ohne dass ein Pilot sie fortlaufend steuert, trifft damit nicht automatisch die rechtlich und operativ maßgebliche Entscheidung. Die schwierigere Frage lautet, ob die Software ohne weiteres menschliches Eingreifen ein Ziel auswählt und Gewalt gegen es anwendet.

 Das liefert einen praktischen Prüfstein für Ankündigungen von Staaten, Streitkräften und Technologieanbietern. Erstens muss die autonome Funktion bestimmt werden. Aussagen über „Autonomie“ können sich auf Routenplanung, Hindernisvermeidung, Sensorverarbeitung, Zielerkennung oder die gesamte Einsatzsequenz beziehen; das sind unterschiedliche Fähigkeiten mit unterschiedlichen Risiken. Zweitens ist zu fragen, welche Ziele zulässig sind. Ein System, das in einer kontrollierten Umgebung auf ein eng definiertes Objekt beschränkt ist, wirft andere Fragen auf als ein System, das in einem bevölkerten oder sich verändernden Umfeld gegen eine allgemein gefasste Zielklasse eingesetzt wird. Drittens muss geklärt werden, wo und wie lange das System suchen und handeln darf. Ein begrenztes Gebiet und ein kurzer Zeitraum können die Unsicherheit einschränken; ein großes Gebiet und eine zeitlich offene Suche können es schwerer machen vorherzusagen, worauf das System stoßen und wie es dies einordnen wird.

 Die nächste Frage lautet, ob ein Eingreifen des Menschen tatsächlich wirksam und nicht nur formal möglich ist. Ein Bediener kann technisch über eine Abbruchtaste verfügen. Das begründet jedoch keine effektive Kontrolle, wenn sich das System schneller bewegt, als der Bediener seine Ausgaben verstehen kann, wenn die Kommunikation unzuverlässig ist oder wenn der Bediener nicht erkennen kann, warum ein bestimmtes Objekt als Ziel eingestuft wurde. Menschliche Kontrolle hängt auch von den Informationen ab, die vor der Aktivierung verfügbar sind: von der Qualität der Sensoren, der Eindeutigkeit der Zielbeschreibung, dem erwarteten Vorhandensein von Zivilpersonen und den bekannten Grenzen des Systems. Wenn der Bediener die Situationen, in denen die Waffe Gewalt anwenden wird, nicht vernünftigerweise vorhersehen kann, lässt sich die Verantwortung nicht einfach dadurch wiederherstellen, dass irgendwo in der Befehlskette auf einen Menschen verwiesen wird.

 Eine glaubwürdige Regel müsste daher mehr leisten als ein Schlagwort. Sie müsste klarstellen, welches Maß an Vorhersehbarkeit erforderlich ist, wie eng die Zielklasse gefasst sein muss, welche geografischen und zeitlichen Grenzen gelten und wann eine Person einen Einsatz überwachen, unterbrechen oder abbrechen können muss. Außerdem müsste sie die üblichen Anforderungen des humanitären Völkerrechts wahren: die Unterscheidung zwischen Zivilpersonen und Kombattanten beziehungsweise militärischen Zielen, die Verhältnismäßigkeit im Hinblick auf den erwarteten Schaden für Zivilpersonen sowie die bei einem Angriff möglichen Vorsichtsmaßnahmen. Diese Regeln gelten bereits. Die Schwierigkeit besteht darin, dass eine undurchsichtige, adaptive oder auf miteinander verknüpften Sensoren beruhende Zielauswahl die Bewertung der Einhaltung erschweren kann – und zwar vor dem Angriff, wenn die entscheidenden Risiko- und Autorisierungsentscheidungen getroffen werden müssen.

 Schließlich ist zu fragen, wer nach einem Fehler die Verantwortung trägt und ob Ermittler den Ablauf rekonstruieren könnten. Ein System darf nicht zu einer Rechenschaftslücke werden, nur weil seine Entscheidung aus Software, Sensordaten und sich verändernden Gefechtsfelddaten hervorgegangen ist. Eine aussagekräftige Überprüfung erfordert Aufzeichnungen über die Einstellungen des Systems, die empfangenen Informationen, die von Bedienern erteilten Befehle sowie den Zeitpunkt, an dem die Anwendung von Gewalt ausgewählt und umgesetzt wurde. Der praktische Prüfstein ist nicht, ob eine Maschine sich in gewöhnlicher Sprache selbst erklären kann. Entscheidend ist, ob Behörden feststellen können, wer den Einsatz autorisiert hat, welche Grenzen vorgegeben waren, was das System getan hat und warum es zu einem rechtswidrigen oder unerwarteten Ergebnis kam.

 Diese Fragen machen auch deutlich, was Genf leisten kann und was nicht. Die Siebte Überprüfungskonferenz des Übereinkommens über bestimmte konventionelle Waffen kann Verhandlungen anstoßen. Der von Österreich, Belgien, Brasilien, Irland, Mexiko, Neuseeland und Panama unterstützte Vorschlag gibt dem Treffen dafür einen konkreten politischen Prüfstein. Eine Verhandlungsentscheidung ist jedoch weder ein durchsetzbares weltweites Verbot noch eine vollständige Regel für den Einsatz. Konsenspolitik kann zu einem Verfahrensbeschluss führen oder die schwierigsten Fragen offenlassen. Deshalb sollten künftige Stellungnahmen an den operativen Einzelheiten gemessen werden: Welche Funktion ist autonom, welche Ziele sind zulässig, wo und wie lange darf das System handeln, welche Eingriffsmöglichkeiten bleiben bestehen und wer trägt die Verantwortung, wenn die Software einen Fehler macht? Solange diese Antworten nicht konkret ausfallen, bleibt „menschliche Kontrolle“ ein Grundsatz und keine verlässliche Schutzvorkehrung.
