Un article du quotidien canadien « Le Devoir » (14 avril 2018) qui fait un point argumenté sur les systèmes d’armes létales autonomes (SALA) ou, autrement dit, les « robots tueurs ».

Par Emmanuel Goffi

Membre du Centre FrancoPaix de la Chaire Raoul-Dandurand, et expert en éthique militaire et en études de sécurité

Le lundi 9 avril s’est ouverte à Genève une énième réunion sur ce que certains appellent les « robots tueurs ». Énième consultation qui regroupe durant dix jours des experts sur les systèmes d’armes létales autonomes (SALA) de plus de 70 pays sous l’égide des Nations unies, pour aboutir très probablement à de nouvelles déclarations purement politiques, sans qu’aucune décision de fond soit prise.

L’apparition de nouvelles armes a toujours suscité des réactions relativement vives concernant leur légalité ou leur moralité. Les robots tueurs ne font pas exception. Cependant, il y a fort à parier que, à l’instar des drones, ces nouveaux systèmes de combat envahiront les champs de bataille, en dépit des mises en garde contre les risques qu’ils représentent.

Les enjeux induits par le développement de ces machines sont tels que nul ne peut croire qu’un cadre juridique contraignant sera défini.

Lors de ma participation à la consultation d’experts sur les robots létaux autonomes organisée à l’initiative des Nations unies en 2013, il a été rapidement évident que les discussions sur le sujet achopperaient systématiquement sur les définitions, en raison d’une différence d’interprétation irréductible entre ingénieurs, politiciens, juristes, philosophes, sociologues et historiens.

En l’occurrence, le premier point bloquant est celui de la définition de l’autonomie. Force est de constater que, cinq ans plus tard, participant à une autre consultation organisée par Affaires mondiales Canada et le ministère de la Défense nationale, le problème reste entier. Pour avoir travaillé sur le sujet au sein de l’armée française et pour avoir suivi de près les réflexions menées par l’OTAN et l’ONU, je sais d’expérience que ce terme ne fait pas et ne fera jamais l’objet d’une définition claire et unanime.

Autre concept indéfinissable : celui de robot. Souffrant en effet d’une absence de définition consensuelle, le terme bénéficie d’une acception suffisamment floue pour que chacun puisse y inclure ou en exclure ce qui lui convient. Ainsi, la France a décidé arbitrairement que les drones n’entraient pas dans la catégorie des robots. Derrière cette décision se terre simplement la volonté de désamorcer les craintes liées au fameux « syndrome Terminator », c’est-à-dire la peur que le développement des SALA n’aboutisse à la création de machines totalement autonomes capables de menacer l’humanité.

La consultation : un jeu de dupes

Certes, les consultations, quand bien même elles achoppent sur la question des définitions, ont le mérite d’exister. Mais, à ce rythme, l’objectif d’établir un cadre normatif contraignant ne sera jamais atteint.

Il faut bien se rendre compte qu’au-delà des définitions, le développement des SALA recouvre des enjeux colossaux. Que ce soit en matière économique ; financière, diplomatique, industrielle, médicale, technologique, militaire ou encore politique, les intérêts des États et de l’industrie sont bien trop importants pour que les aspects éthico-juridiques soient placés en tête de leurs préoccupations.

Comment imaginer que le Japon, les États-Unis, Israël, la France ou encore le Royaume-Uni, la Russie et la Chine, qui déploient déjà des systèmes semi-autonomes, acceptent de se contraindre par un texte normatif qui les empêcherait de développer un secteur aux débouchés plus que prometteurs dans de nombreux domaines ? Les programmes sont déjà fixés. Les discussions sont tout au plus un exercice de communication.

Mais tandis que les discussions s’éternisent, le développement des armes autonomes, et donc de l’intelligence artificielle (IA), se poursuit.

La question de l’IA et des robots dépasse largement le simple cadre du champ de bataille. L’IA est partout, tout comme les robots, et nous regardons souvent ces avancées technologiques avec une fascination enthousiaste qui occulte l’effroi qu’elles peuvent susciter.

Sans sombrer dans l’excès, il y a de sérieuses raisons de s’inquiéter pour notre avenir. En prenant le temps de faire une recherche sérieuse sur le sujet, on mesure très clairement l’avancement des travaux en la matière, travaux qui ne manquent pas de susciter des préoccupations légitimes. C’est sur la base de ces préoccupations que j’ai d’ailleurs décidé en 2015 de signer les deux lettres ouvertes sur les risques liés au développement de l’intelligence artificielle et des armes autonomes.

Qu’il s’agisse de voir à terme ces machines prendre le dessus sur l’humain, ou dans un avenir plus proche de voir les SALA massivement employés sans contrôle démocratique, ou utilisés par des régimes ayant la capacité de menacer la sécurité internationale, chaque risque invite à remettre en question les arguments consistant à présenter ces machines comme des avancées technologiques bénéfiques à l’humanité. Certes, les SALA présentent des avantages. Mais le spectre et l’importance des risques sont trop larges pour ne pas appliquer le principe de précaution et s’interroger préalablement sur leur intérêt.

Si l’absence de définitions consensuelles interdit toute avancée, il apparaît surtout que les intérêts en jeu sont tels qu’ils priment toute autre considération. Il devient dès lors impossible de s’accorder sur des mesures à prendre ou sur un texte qui permettrait d’encadrer l’emploi de ces systèmes le temps qu’un débat sérieux ait lieu. Mon inquiétude réside dans le fait que tout se passe en dehors du cadre démocratique et de toute volonté politique d’envisager honnêtement les risques liés au développement des SALA, et donc de mettre en place un cadre juridique contraignant pour prévenir les dérives potentielles. Ce n’est malheureusement pas une nouvelle réunion qui modifiera le cours des choses.

 

Ce lundi 22 avril s’ouvre à Genève à l’ONU, la réunion de préparation à la Conférence d’examen du Traité sur la Non-Prolifération nucléaire (TNP), la Prepcom-2018. Une délégation du Mouvement de la paix de 17 personnes était sur place pour y participer activement. En compte rendu, voici deux article de Daniel Durand.

Premier article: Prepcom 2018, la France fait du vent

La première séance de la Prepcom du TNP à Genève s’est ouverte ce matin. Mme Izumi Nakamitsu,au nom du Secrétaire général des Nations unies, a rappelé que « La menace de l’utilisation – intentionnelle ou non – d’armes nucléaires est croissante. Cette menace, qui concerne toute l’humanité, restera aussi longtemps que les armes nucléaires continueront d’exister dans les arsenaux nationaux« .
Elle a rappelé que « Les États dotés d’armes nucléaires ont la responsabilité de leadership en matière de désarmement nucléaire« . Malheureusement, les premiers discours des représentants des puissances nucléaires n’ont pas montré une volonté réelle de relancer une dynamique autour de l’application de l’article VI du TNP, par lequel les États « dotés » s’engagent à négocier de « bonne foi » le désarmement nucléaire. Le représentant des États-Unis s’est contenté d’un discours a minima, dans lequel il y a quelques « gentils » (les USA, par ex) et beaucoup de « méchants« (et il met dans le même panier ou presque, Iran, Irak, Syrie, Russie, Chine, etc.). Heureusement, il a quand même rappelé que le TNP avait eu le mérite de contenir la prolifération nucléaire ! Nous ne sommes pas complètement revenus en 2003 – 2005, lorsque le représentant étatsunien, Bolton, tirait à la mitrailleuse sur tous les traités de désarmement.
L’intervention de la représentante de la France, Mme Guitton, a été un exercice de style remarquable : comment masquer l’immobilisme nucléaire français sous des formules creuses, comment justifier le refus français d’impulser le désarmement nucléaire ? La représentante française n’a pu pour justifier que « conformément à une approche progressive et réaliste du désarmement nucléaire, la France a continué à mettre en oeuvre ses engagements au titre de l’article VI du TNP » que mettre en avant de vagues participations à des comités techniques, mais rien sur le plan politique concret de l’arrêt des mesures de « modernisation nucléaire » décidées dans les lois de programmation militaire actuelles.
Comme la diplomatie française se sent en difficulté par rapport aux initiatives de désarmement nucléaire, liées au TIAN, et popularisées en France par les 46 associations d’ICAN-France, la représentante française a annoncé péremptoirement qu’elle entendait « à present se tourner vers l’échéance de 2020« . Tout le monde attendait des propositions politiques hardies et novatrices. Las ! Les propositions ne sont que des objectifs sans moyens d’action et donc peu atteignables : « adopter une réponse ferme et unie à toutes les crises de prolifération » (!), « renouer un dialogue multilatéral constructif et inclusif » (« cause toujours !« ), deux « serpents de mer » avec la négociation d’un traité sur les matières fissiles, « l’entrée en vigueur rapide » du traité d’interdiction des essais nucléaires en panne depuis vingt ans, enfin la diminution des stocks d’ armes nucléaires, mais chez les autres, les États-Unis et la Russie ! Ah, si, il y a eu un engagement concret, le « développement responsable et durable du nucléaire civil », c’est-à-dire le renforcement de la vente de centrales nucléaires ! La diplomatie française est malheureusement aujourd’hui de plus en plus réduite en matière nucléaire à essayer de « vendre du vent« , pour pallier aux carences des politiques présidentielles françaises en matière de sécurité internationale innovante !
Par rapport à tous ces discours creux, l’intervention du représentant du Saint-Siège, a été un moment de fraîcheur intellectuelle et éthique. Celui-ci a rappelé que « Les armes de destruction massive, en particulier les armes nucléaires, créent un faux sentiment de sécurité. L’illusion tragique d’une « paix » basée sur la peur est au mieux superficielle« . Il a affirmé avec fermeté que « tant ce traité [le Traité d’interdiction des armes nucléaires] que le TNP sont inspirés et conduits par les mêmes impératifs moraux et les mêmes objectifs. À cet égard, ils se renforcent et se complètent mutuellement ». Enfin, il a ajouté que « Le désarmement nucléaire et la non-prolifération sont liés au désarmement intégral et cela est lié au développement humain intégral, que le pape Paul VI a défini comme un autre nom pour la paix« .
En bref, cette première journée a planté le décor des enjeux d’un monde plus sûr et pacifié demain. Soit la poursuite d’une situation inégalitaire, dangereuse et instable, où certaines puissances considèrent que les armes nucléaires sont bonnes pour leur sécurité mais pas pour celle des autres pays.
Soit un sursaut politique et éthique pour dire : oui, il faut s’engager résolument dans la voie du désarmement nucléaire contrôlé et maîtrisé pour construire une nouvelle sécurité commune, et il faut prendre en compte tous les apports en ce sens, dont le nouveau Traité d’interdiction, en cours de ratification.

Deuxième article: Armes nucléaires, diviser ou unir ?

Le débat général à la commission préparatoire (Prepcom) de la Conférence d’examen du TNP s’est achevé hier à Genève. Il a finalement été révélateur du fossé qui s’est en partie créé au fil des interventions entre les puissances nucléaires (les P5) et la grande majorité des autres pays. L’audition, hier matin, de quinze représentants de la société civile dont une victime japonaise (une « hibakusha« ) et les maires d’Hiroshima et Nagasaki, a montré les attentes existant dans le monde.
Après les interventions des États-Unis et de la France que nous avons évoquées dans un article précédent, celles du Royaume-Uni, de la Chine et de la Russie ont montré, à des degrés divers, combien la pression pour faire évoluer les tenants de l’arme nucléaire, devra être longue et multiforme. La Chine a maintenu ses réserves vis a vis du futur Traité d’interdiction des armes nucléaires, en estimant que  » Sur la base de la réalité actuelle de la sécurité internationale, le désarmement nucléaire ne pourrait être poursuivi que progressivement, en suivant les principes du «maintien de la stabilité stratégique mondiale» et de la «sécurité non diminuée pour tous», des arguments déjà avancés par la représentante française. Le représentant chinois a quand même fait preuve de plus d’ouverture, en reconnaissant que « la volonté et le droit des États non dotés d’armes nucléaires d’être à l’abri de la menace des armes nucléaires et de la guerre nucléaire doivent être respectés ». Il a admis que « Les États dotés d’armes nucléaires devraient faire preuve de volonté politique et prendre des mesures plus concrètes pour s’acquitter de leurs obligations au titre de l’article 6 du Traité« .
L’intervention du représentant russe a été beaucoup plus « musclée ». Il a été très critique envers les décisions militaires des États-Unis de poursuivre le déploiement de systèmes anti-missiles, de perfectionner « les armes offensives stratégiques » ou d’envisager « de placer des armes dans l’espace ».
Il a critiqué très fortement le Traité d’interdiction des armes nucléaires en estimant que « Cette initiative n’apporte aucune contribution à l’avancement vers le noble but déclaré. Tout au contraire, il menace l’existence même et l’efficacité de notre Traité de non-prolifération fondamental« .
Ce raidissement des puissances nucléaires est-il productif dans ce qui devrait être un but commun : la construction d’un monde sans armes nucléaires ? Le directeur de la Croix-Rouge internationale leur a rappelé qu’il est « temps qu’ils renoncent aux menaces d’utilisation de l’arme nucléaire et à la modernisation des armements pour se consacrer à la pleine mise en œuvre des engagements qu’ils ont pris par le passé, notamment en 2010, en faveur de la réduction des arsenaux nucléaires, de l’atténuation des risques et, plus globalement, du désarmement nucléaire« .
Ainsi que je l’ai écrit, en début d’article, en s’arc-boutant sur le privilège d’avoir des armes nucléaires, les P5 élargissent un fossé, comme l’a fait remarquer dans la séance des ONG, la représentante du réseau ICAN, prix Nobel de la paix : « Ces politiques et pratiques sont une source de grande division et de disharmonie dans la communauté internationale, et nous les condamnons sans réserve. Nous les condamnons parce que les armes nucléaires sont indiscriminées, inhumaines et illégales« .
Deux jeunes filles, représentantes des jeunes activistes d’Abolition 2000, ont conclu la séance des ONG  en lançant un appel que chacun devrait méditer : « Aujourd’hui, nous représentons la génération, déterminée à vivre dans un monde sans armes nucléaires, objectif que tout le monde dans cette salle a accepté. Nous ne voulons pas nous asseoir dans votre siège dans dix ans, en nous apercevant que rien n’a changé ».
Après les trois jours de séance générale, les journées suivantes sont consacrées à l’examen détaillé des trois « piliers » du TNP : désarmement, énergie nucléaire civile, non-prolifération.
Dans la première de ces séances qui a débuté en fin d’après-midi, l’intervention française, sur laquelle nous reviendrons plus longuement, n’a pas vraiment semblé s’inscrire dans une perspective constructrice. Le rappel des mesures de diminution du nombre des armes nucléaires françaises qui datent des années 1996 (plus de vingt ans !) peuvent-ils convaincre ces jeunes, qui étaient à peine nés alors ! La représentante française s’est également livrée à une attaque en règle du Traité d’interdiction des armes nucléaires, en l’opposant au TNP et aux autres processus de désarmement, tant conventionnels, balistiques ou cyber en cours, alors que son caractère complémentaire, notamment pour permettre la réalisation de l’article VI du TNP semble évident, et en tout cas, l’objectif à atteindre !
Comme cette argumentation semble décalée de cette autre partie de l’appel des jeunes quelques heures plus tôt : « Nous avons besoin de vous, distingués diplomates, pour parler, non seulement des visions d’un monde sans armes nucléaires, mais pour le réaliser. Nous sommes impatients d’être vos partenaires dans notre mission commune de réaliser immédiatement un monde exempt d’armes nucléaires« .