Nouvelles technologies
La peur des robots tueurs
Les nouvelles technologies ont changé nos vies. Ils changent aussi les champs de batailles pour le pire. Laurent Gisel, expert au Comité international de la Croix-Rouge, s'inquiète de ces nouveaux risques.
L'avenir des armes autonomes ciblant des humains est discuté cette semaine à Genève. Laurent Gisel, expert au Comité international de la Croix-Rouge, met en garde contre ces «robots tueurs» qui «réduisent l'être humain à des données».
Réunis jusqu'à vendredi au siège de l'ONU à Genève, les États doivent décider s'ils ouvrent des négociations pour encadrer ces armes. M. Gisel, chef de l'Unité Armes et Conduite des hostilités au CICR, juge urgent d'établir des règles contraignantes, avant que des armes imprévisibles et incontrôlables ne soient déployées en grand nombre sur les champs de bataille.
«On associe très souvent le débat sur les armes autonomes aux drones» mais «l'autonomie est une capacité qui peut être intégrée dans n'importe quel type d'arme, comme un missile ou une bombe», insiste l'expert.
Le principe d'une arme capable de réagir sans intervention humaine n'est pas nouveau. Mais l'évolution de leurs capacités et de leurs usages, accélérée par les progrès de l'intelligence artificielle, pousse des États à réclamer l'ouverture de négociations pour établir un cadre réglementaire. Certaines de ces armes autonomes «existent depuis des décennies», explique M. Gisel.
C'est notamment le cas des systèmes de défense antimissile installés sur des navires de guerre, capables de détecter une menace et de déclencher automatiquement une riposte. Face à un missile arrivant à très grande vitesse, «les soldats supervisent le système, mais n'approuvent pas chaque frappe». Selon l'expert, dans ce contexte précis, en haute mer et face à des missiles dont la signature est identifiable, les risques pour les civils restent limités.
Le cas des «munitions rôdeuses»
M. Gisel explique que les mines antipersonnel constituent une forme ancienne d'arme autonome, interdite justement en raison de leur caractère indiscriminé. Une fois posée, une mine se déclenche au passage d'une personne, sans que celui qui l'a installée puisse savoir s'il s'agira d'un combattant ou d'un civil. Mais les développements technologiques font apparaître de nouveaux risques.
«Ce qui nous préoccupe particulièrement, c'est les développements qu'on voit aujourd'hui sur les champs de bataille», indique M. Gisel, pointant du doigt le développement d'armes offensives qui vont «chercher des cibles». Il cite ainsi les munitions rôdeuses, capables de rechercher un radar ennemi, puis de plonger sur lui pour le détruire. Comme ces munitions peuvent fonctionner de manière autonome, il y a un risque qu'elles se fassent exploser sur un radar se trouvant sur une infrastructure également utilisée par des civils, explique-t-il. Or le droit international humanitaire, fondé sur les Conventions de Genève et dont le CICR est le gardien, exige que les parties au conflit fassent la distinction entre civils et combattants, ainsi qu'entre les objectifs militaires et les biens de caractère civil.
Pour autant, le CICR n'appelle pas à interdire toute arme intégrant une forme d'automatisation, mais celles dont le fonctionnement est imprévisible et celles qui visent les humains. Selon M. Gisel, celles qui ciblent les humains soulèvent une question éthique supplémentaire, en raison de la manière dont elles pourraient identifier une personne et décider de l'attaquer.
«Ces armes réduisent l'être humain à des données, qui sont captées par des capteurs et analysées par des algorithmes. C'est ce processus machine qui finalement décide qui vit et qui meurt», déplore-t-il.
L'expert souligne aussi les risques liés à l'évolution des affrontements sur le terrain. Un combattant peut se rendre ou être blessé entre le moment où l'arme autonome est activée et celui où elle tire. Il devient alors une personne «hors de combat» protégée par le droit international humanitaire, qu'il est interdit d'attaquer. Or, une arme autonome ne sera pas nécessairement en mesure de prendre en compte ce changement, selon le CICR.