Les discussions de Genève sur les armes autonomes mettent à l’épreuve le sens concret du « contrôle humain »
La conférence d’examen de l’ONU de novembre 2026 doit déterminer s’il faut ouvrir des négociations sur les armes autonomes. La question décisive n’est pas qu’un drone vole seul, mais qui choisit la cible, fixe les limites et reste responsable quand un logiciel applique la force.
Ce que Genève doit réellement décider cette semaine

La septième conférence d’examen de la Convention sur certaines armes classiques se réunit à Genève du 16 au 20 novembre 2026. Les systèmes d’armes létales autonomes figurent parmi les questions inscrites à son programme. La conférence n’est ni un essai sur un champ de bataille ni une démonstration technologique. Elle constitue un test diplomatique : les gouvernements peuvent-ils passer d’une inquiétude générale face aux armes qui appliquent la force au moyen de logiciels à une décision plus précise sur la suite à donner ? Le programme préparé par le Bureau des affaires de désarmement de l’ONU inscrit la question à l’ordre du jour et prévoit des travaux en vue d’un document final, offrant aux États un cadre officiel pour déterminer si les discussions actuelles doivent déboucher sur des négociations.
Cette distinction est importante, car la question centrale n’est pas de savoir si un drone peut voler, se diriger ou rester en l’air sans commandes permanentes au manche. Il s’agit de déterminer si, une fois activé, un système peut sélectionner des cibles et exercer la force contre elles sans nouvelle intervention humaine — et si les règles adoptées par les États sont assez précises pour encadrer ce processus. Genève examine donc à la fois le fond et la procédure : quel type d’instrument pourrait être négocié, et la conférence peut-elle seulement convenir d’engager ces travaux ?
Selon des informations rapportées par l’Associated Press, l’Autriche, la Belgique, le Brésil, l’Irlande, le Mexique, la Nouvelle-Zélande et le Panama ont proposé d’ouvrir des négociations sur un instrument juridiquement contraignant. Une telle proposition ferait passer le débat au-delà des déclarations générales d’inquiétude, vers le travail difficile de définition des obligations. Un instrument contraignant obligerait les gouvernements à trancher des questions souvent laissées volontairement floues dans les déclarations politiques : quels systèmes ou quelles fonctions entrent dans son champ d’application, quelles limites devraient encadrer leur usage, et comment préserver la responsabilité lorsque le comportement d’une arme est produit en partie par des capteurs, des logiciels et des paramètres préétablis.
La proposition ne garantit pas l’ouverture de négociations. La conférence fonctionne selon la règle du consensus ; son issue pourrait donc rester une décision de procédure ou un texte au plus petit dénominateur commun, plutôt qu’un accord pour négocier des restrictions détaillées. Cette possibilité n’est pas une note technique secondaire. Elle fait partie de la question tranchée cette semaine. Une conférence peut reconnaître les risques, constater la persistance des désaccords et demander aux États de poursuivre leurs discussions sans créer de nouvel instrument juridique. Elle peut aussi lancer un processus de négociation dont l’issue resterait incertaine. Ce sont des résultats substantiellement différents, même si chacun est présenté publiquement comme un progrès.
L’expression « contrôle humain » se trouve au cœur de cette incertitude. Elle peut donner l’impression d’une garantie simple : une personne reste quelque part dans la chaîne avant l’emploi de l’arme. Mais une règle réellement opérante devrait aller plus loin. Elle devrait préciser qui choisit la catégorie de cible, qui fixe les limites géographiques et opérationnelles, pendant combien de temps le système peut rechercher, de quelles informations dispose l’opérateur et si le système peut être interrompu ou arrêté lorsque les circonstances changent. Ces questions montrent pourquoi le débat de Genève ne peut pas se réduire à un choix entre les humains et les machines. Les systèmes militaires modernes peuvent combiner de différentes manières le pilotage à distance, la navigation automatisée, le traitement des données des capteurs et les effets des armes. Une future règle devra distinguer ces fonctions au lieu de considérer toute caractéristique autonome comme un même problème juridique.
La décision immédiate de la conférence est donc plus limitée que les affirmations générales souvent associées aux armes autonomes. Les États ne votent pas simplement sur la question de savoir si l’intelligence artificielle doit exister dans la guerre, pas plus qu’ils ne décident si chaque drone utilisant l’automatisation est une arme interdite. Ils doivent déterminer si le processus international doit commencer à négocier des règles pour les systèmes capables de sélectionner des cibles et d’exercer la force avec une intervention réduite ou absente au moment de l’attaque. La réponse orientera la prochaine étape du débat, mais elle ne tranchera pas à elle seule ce qu’un traité final interdirait, autoriserait ou imposerait.
C’est pourquoi il faut lire le document final à travers son langage opératoire plutôt qu’à travers ses titres. Une référence à des négociations, un mandat pour poursuivre les travaux et une affirmation générale du droit international humanitaire n’ont pas les mêmes conséquences pratiques. La conférence peut créer une dynamique, mais la recherche du consensus risque d’en réduire la portée. Pour comprendre ce que Genève change réellement, le premier test est donc simple : les États sont-ils convenus de négocier un instrument juridiquement contraignant, ou ont-ils seulement accepté de continuer à examiner le problème ?
La limite de l’autonomie concerne le ciblage, pas seulement le vol
Un drone capable de naviguer sans pilote n’est pas automatiquement une arme autonome. La distinction essentielle tient à ce que fait le système après son activation. Un drone armé télépiloté peut utiliser des logiciels pour stabiliser son vol, suivre une route, éviter des obstacles ou revenir à sa base, tandis qu’un opérateur humain décide toujours quel objet attaquer et quand employer la force. Ces fonctions automatisées peuvent être importantes, mais elles ne répondent pas à elles seules à la question centrale : qui sélectionne la cible et qui autorise l’emploi de la force ?
Le Comité international de la Croix-Rouge définit un système d’arme autonome en se référant à ses effets après son activation. Dans le sens pertinent ici, le système peut sélectionner des cibles et exercer la force contre elles sans nouvelle intervention humaine. Cela détourne l’attention de l’image d’une machine qui « penserait » comme une personne. Une arme n’a pas besoin de prendre de vastes décisions stratégiques pour poser un problème juridique et opérationnel. Il suffit que son logiciel, à partir de capteurs et de règles programmées, détermine quel objet appartient à une catégorie de cibles autorisée, puis l’engage sans qu’une personne effectue la sélection finale pour chaque attaque. (CICR, « Frequently asked questions on autonomous weapon systems »)
Trois systèmes peuvent donc se ressembler tout en soulevant des questions différentes. Un drone armé télépiloté reste intégré à une chaîne de décisions humaines, même lorsque ses systèmes de navigation et ses caméras sont fortement automatisés. Une fonction de navigation autonome peut permettre à un aéronef ou à une munition de se déplacer seul dans un environnement, mais le déplacement n’est pas la sélection d’une cible. La limite pertinente est franchie lorsqu’un système est autorisé, après son activation, à identifier et à engager des cibles sans intervention humaine supplémentaire. Le critère n’est pas de savoir si la plateforme peut voler seule. Il est de déterminer si son autonomie s’étend jusqu’à la décision d’employer la force.
Le mot « autonome » peut désigner plusieurs fonctions différentes. Un véhicule peut maintenir son altitude, reconnaître le terrain, calculer un itinéraire ou éviter une collision. Un système défensif peut détecter et intercepter une menace entrante. Une munition peut combiner les informations de plusieurs capteurs et décider qu’un objet correspond à une signature prédéfinie. Une arme rôdeuse peut fouiller une zone et attaquer un élément correspondant à un profil de cible général. Ces systèmes ne présentent pas les mêmes risques et ne peuvent pas être évalués sérieusement en demandant seulement si un humain est intervenu au début de la mission.
Les exemples du CICR montrent pourquoi les usages défensifs comme offensifs doivent faire l’objet d’un examen attentif. Les systèmes conçus pour intercepter des roquettes ou des aéronefs entrants peuvent fonctionner à des vitesses qui laissent très peu de temps pour intervenir. Des munitions à fusion de capteurs peuvent être lancées avant que l’arme ait identifié l’objet précis qu’elle frappera. Des armes rôdeuses peuvent rester dans une zone, traiter des données issues de capteurs et engager une cible correspondant à une description générale plutôt qu’à une personne nommément désignée ou à un véhicule identifié de manière unique. Dans chaque cas, la question centrale est le rapport entre la décision humaine initiale et l’action ultérieure de la machine : qu’est-ce que la personne a exactement autorisé, et quelle part de l’emploi final de la force a-t-elle laissée au système ? (CICR, « Autonomous weapon systems and international humanitarian law »)
C’est pourquoi qualifier chaque drone autonome de « robot tueur » brouille l’enjeu technique et juridique. Cette expression fond navigation, surveillance, reconnaissance des cibles et déclenchement des armes en une seule catégorie. Elle peut donner l’impression qu’un aéronef doté d’une assistance automatisée au pilotage équivaut à une arme qui recherche et engage seule des cibles. À l’inverse, elle peut dissimuler une autonomie importante dans une munition ou un intercepteur défensif, parce que la plateforme visible semble rester sous contrôle humain. Pour être précise, la discussion doit déterminer quelle fonction est autonome, et non se limiter au matériel qui la transporte.
Le raccourci inverse est tout aussi trompeur. Dire qu’un système est « contrôlé par l’humain » ne règle rien si le rôle de la personne se limite à appuyer sur le bouton de démarrage avant que l’arme ne recherche, sélectionne et attaque dans une vaste zone. La présence d’un opérateur dans une salle de contrôle ne suffit pas non plus à établir qu’il maîtrise véritablement chaque résultat. Les questions concrètes sont plus ciblées : quelle catégorie de cibles a été définie, quelles informations les capteurs peuvent-ils distinguer, quelle zone géographique et quelle fenêtre temporelle ont été fixées, et le système peut-il être arrêté ou réorienté avant l’emploi de la force ? Ce sont ces éléments qui déterminent si la décision humaine reste liée à l’usage précis de la force.
Pour les discussions de Genève, cette limite est déterminante. Des règles fondées sur les plateformes — drones, missiles ou tourelles — pourraient laisser de côté la même fonction de ciblage lorsqu’elle est intégrée à un autre système. Des règles centrées sur « l’autonomie » pourraient englober des fonctions de navigation inoffensives sans préciser l’usage de la force qui suscite les inquiétudes. Le critère opérationnel commence par la séquence d’action : une personne active le système ; le système recueille et interprète des informations ; il sélectionne une cible en fonction de sa programmation ; puis il applique la force. Le point décisif est de savoir si une intervention humaine reste nécessaire entre la sélection et l’attaque, et si les limites fixées au moment de l’activation sont assez précises pour rendre cette délégation évaluable.
Pourquoi il est difficile de transformer le contrôle humain en exigence technique
Le « contrôle humain » semble être une garantie claire jusqu’au moment où il faut le traduire en conditions encadrant la recherche, la sélection et l’attaque d’une cible. Une personne peut activer un système, approuver une mission ou rester à proximité pendant que le logiciel accomplit les étapes décisives. Ces formes d’implication ne sont pas nécessairement équivalentes. La question concrète est de savoir si le rôle humain conserve une portée réelle au moment où la force est appliquée, et si la personne dispose d’informations, d’une autorité et d’un délai suffisants pour empêcher une attaque illégale ou résultant d’une erreur.
L’autonomie devient ainsi un problème de conception du système autant qu’une question de savoir qui appuie sur le bouton de lancement. Toute règle future devrait examiner dans quelle mesure les résultats du système sont prévisibles dans l’environnement où il est utilisé. Une arme opérant contre une catégorie de cibles strictement définie dans une zone limitée pose un problème de contrôle différent de celui d’une arme qui recherche, dans un environnement changeant, des objets correspondant à un profil large ou général. Plus l’ensemble des cibles autorisées et la zone d’opération sont restreints, plus il peut être facile d’établir à l’avance ce que le système est susceptible de rencontrer et ce qu’il est autorisé à faire. Mais un cadre étroit ne dispense pas de vérifier si le système peut distinguer la cible autorisée des personnes, des biens civils ou d’autres objets protégés présents à proximité.
La durée de fonctionnement compte également. Un système qui agit pendant une courte période contrôlée peut être plus facile à superviser qu’un système capable de poursuivre ses recherches après un changement de circonstances. Le temps peut modifier la signification d’une signature de cible, la présence de civils et la nécessité militaire d’une attaque. Une décision humaine prise avant l’activation ne peut donc pas automatiquement remplacer un jugement continu. Les garanties pertinentes peuvent comprendre des limites concernant le lieu où l’arme peut opérer, la durée pendant laquelle elle peut rester active et la conduite à tenir lorsqu’elle rencontre des conditions qui ne correspondent plus aux hypothèses retenues pour l’autoriser.
La prévisibilité est également au cœur de la responsabilité. L’opérateur doit comprendre, à un niveau utile, ce que le système est conçu pour détecter, comment il peut réagir et quelles incertitudes sont susceptibles d’influencer son comportement. Cela ne signifie pas qu’une personne doive calculer chaque étape logicielle pendant une opération. En revanche, les effets probables du système doivent être suffisamment circonscrits pour que la décision de l’utiliser puisse être évaluée avant l’emploi de la force. Si les résultats sont opaques, instables ou difficiles à anticiper, une autorisation formelle peut offrir très peu de contrôle concret sur l’issue.
La même question se pose pour la possibilité d’intervenir. Il ne suffit pas d’affirmer qu’un humain peut techniquement interrompre une arme si l’opérateur ne peut pas reconnaître la nécessité d’agir, ne dispose pas de communications fiables, reçoit les informations trop tard ou n’a pas le pouvoir effectif d’annuler l’engagement. L’interruption doit être examinée en fonction de la vitesse de l’arme, de la compréhension de la situation par l’opérateur et du comportement du système lorsqu’une commande est retardée ou perdue. Un dispositif de contrôle qui existe sur le papier mais ne peut pas fonctionner dans les conditions opérationnelles ne répondra pas au véritable problème juridique et éthique.
Le droit international humanitaire fournit déjà les obligations applicables. Les parties à un conflit doivent distinguer les civils des combattants, ainsi que les biens de caractère civil des objectifs militaires ; elles doivent éviter les attaques dont on peut attendre qu’elles causent des dommages excessifs aux civils par rapport à l’avantage militaire concret et direct escompté ; elles doivent aussi prendre toutes les précautions pratiquement possibles lors d’une attaque. La difficulté ne tient pas au fait que l’autonomie créerait un univers juridique distinct. Elle tient à ce que le ciblage opaque ou adaptatif peut rendre ces obligations plus difficiles à évaluer avant une frappe, au moment où les décisions pertinentes doivent être prises.
La distinction illustre le problème. Un système peut être capable d’identifier un schéma technique associé à une cible autorisée, tout en peinant lorsque le contexte environnant change ou lorsque civils et activités militaires se chevauchent. La proportionnalité exige d’évaluer les dommages attendus pour les civils au regard de l’avantage militaire escompté, et non de se contenter de classer un objet. Les précautions doivent être planifiées et vérifiées en fonction des circonstances. Si l’utilisateur ne peut pas savoir de manière fiable comment le système interprétera son environnement, la décision humaine risque d’être détachée des effets que le droit impose à l’attaquant d’anticiper.
Pour cette raison, la responsabilité ne peut pas s’arrêter à l’autorisation initiale. Les enquêteurs doivent pouvoir reconstituer ce que le système a détecté, ce qu’il a classé, quelles contraintes étaient actives, ce que savait l’opérateur et quelle intervention était possible. Les enregistrements et l’explicabilité ne rendent pas une frappe licite à eux seuls, mais sans eux il devient plus difficile de déterminer si l’échec provenait de la conception de l’arme, des paramètres de la mission, de la décision de l’opérateur ou de la chaîne de commandement dans son ensemble. Une règle exigeant un contrôle humain doit donc prendre en compte non seulement la supervision en temps réel, mais aussi les éléments de preuve nécessaires après un incident.
L’autonomie de navigation, à elle seule, ne résout pas ces questions. Un drone peut se déplacer sans pilotage continu tout en laissant à une personne la sélection de la cible et l’emploi de la force. Il s’agit d’un dispositif différent d’une arme qui sélectionne et attaque de façon autonome des cibles après son activation. La frontière décisive est la fonction qui reste autonome lorsque la force est employée. Un véritable test du contrôle humain doit donc suivre toute la chaîne — de la cible autorisée et de la zone d’opération, en passant par la recherche et l’identification, jusqu’à la décision d’employer la force et à la capacité d’arrêter ou d’enquêter sur le résultat.
Le test pratique à appliquer à toute future règle
La manière la plus utile d’évaluer un futur accord sur les armes autonomes consiste à laisser de côté les assurances générales sur le maintien de l’humain « dans la boucle » et à demander ce que l’humain contrôle réellement. Une personne choisit-elle chaque cible, ou se contente-t-elle de définir un profil général de cible ? Le système est-il autonome uniquement pour la navigation, ou identifie-t-il et engage-t-il des objets après son activation ? L’opérateur peut-il fixer clairement, avant le lancement, une zone d’opération, une durée limite et les effets de l’arme ? Ces distinctions comptent, car un drone qui se rend à un endroit sans être piloté en permanence n’est pas automatiquement en train de prendre la décision juridiquement et opérationnellement déterminante. La question la plus difficile est de savoir si le logiciel sélectionne une cible et emploie la force contre elle sans autre intervention humaine.
Cela fournit un test pratique pour évaluer les annonces des États, des forces armées et des fabricants de technologies. Premièrement, il faut identifier la fonction autonome. Les affirmations concernant l’« autonomie » peuvent désigner la planification d’itinéraires, l’évitement des obstacles, le traitement des données des capteurs, la reconnaissance des cibles ou l’ensemble de la séquence d’engagement ; il s’agit de capacités différentes, qui présentent des risques différents. Deuxièmement, il faut demander quelles cibles sont autorisées. Un système limité à un objet précisément défini, dans un environnement contrôlé, soulève des questions différentes de celles posées par un système opérant contre une catégorie générale de cibles, dans un environnement peuplé ou changeant. Troisièmement, il faut déterminer où et pendant combien de temps le système peut rechercher et agir. Une zone étroite et une période courte peuvent limiter l’incertitude ; une zone vaste et une recherche sans terme défini peuvent rendre plus difficile la prévision de ce que le système rencontrera et de la manière dont il le classera.
La question suivante est de savoir si l’intervention humaine est réelle ou seulement formelle. Un opérateur peut certes disposer techniquement d’un bouton d’arrêt, mais cela ne suffit pas à établir un contrôle effectif si le système évolue plus vite que l’opérateur ne peut comprendre ses résultats, si les communications sont peu fiables ou si l’opérateur ne peut pas savoir pourquoi un objet donné a été classé comme cible. Le contrôle humain dépend aussi des informations disponibles avant l’activation : qualité des capteurs, précision de la description de la cible, présence attendue de civils et limites connues du système. Si l’opérateur ne peut pas raisonnablement anticiper les situations dans lesquelles l’arme appliquera la force, il est impossible de rétablir la responsabilité en invoquant simplement la présence d’un être humain quelque part dans la chaîne de commandement.
Une règle crédible devrait donc traiter de bien plus qu’un slogan. Elle devrait préciser le niveau de prévisibilité requis, le degré de précision de la catégorie de cibles, les limites géographiques et temporelles applicables, ainsi que les moments où une personne doit pouvoir superviser, interrompre ou annuler un engagement. Elle devrait également préserver les exigences ordinaires du droit international humanitaire : la distinction entre civils et combattants ou objectifs militaires, la proportionnalité au regard des dommages civils attendus et les précautions réalisables lors de l’attaque. Ces règles s’appliquent déjà. La difficulté tient au fait qu’un ciblage opaque, adaptatif ou fondé sur la fusion de données provenant de plusieurs capteurs peut compliquer l’évaluation du respect de ces obligations avant une frappe, alors que les décisions essentielles relatives au risque et à l’autorisation doivent être prises à ce moment-là.
Enfin, il faut demander qui porte la responsabilité après une erreur et si les enquêteurs pourraient reconstituer les faits. Un système ne devrait pas devenir une faille dans la chaîne des responsabilités simplement parce que sa décision résulte de logiciels, de capteurs et de données changeantes du champ de bataille. Un examen sérieux exige de conserver les réglages du système, les informations qu’il a reçues, les ordres donnés par les opérateurs et le moment où l’emploi de la force a été sélectionné puis exécuté. Le test pratique n’est pas de savoir si une machine peut s’expliquer dans le langage courant, mais si les autorités peuvent déterminer qui a autorisé l’opération, quelles contraintes ont été imposées, ce que le système a fait et pourquoi un résultat illicite ou inattendu s’est produit.
Ces questions permettent aussi de cerner ce que Genève peut ou ne peut pas produire. La septième Conférence d’examen de la Convention sur certaines armes classiques peut entamer des travaux en vue de négociations, et la proposition soutenue par l’Autriche, la Belgique, le Brésil, l’Irlande, le Mexique, la Nouvelle-Zélande et le Panama offre à la réunion un test politique concret. Mais la décision de négocier ne constitue en elle-même ni une interdiction mondiale exécutoire ni une règle complète de déploiement. La politique du consensus peut déboucher sur un résultat procédural ou laisser sans réponse les questions les plus difficiles. C’est pourquoi les déclarations à venir devront être confrontées aux détails opérationnels : quelle fonction est autonome, quelles cibles sont autorisées, où et pendant combien de temps le système peut agir, quelle intervention reste possible et qui est responsable lorsque le logiciel se trompe. Tant que ces réponses ne seront pas précises, le « contrôle humain » restera un principe plutôt qu’une garantie fiable.
Comments
Sign in to comment.
No comments yet.