Questions-réponses – Ce qu’il faut savoir sur les armes autonomes
Qu'est-ce qu'une arme autonome ?
Le CICR définit les systèmes d'armes autonomes comme des armes qui sélectionnent des cibles et exercent la force contre elles sans intervention humaine.
Une personne active l'arme, mais sans connaître ses cibles spécifiques – personnes ou biens –, ni le moment et/ou le lieu précis où elle frappera.
En effet, une arme autonome est déclenchée par un logiciel, lorsque celui-ci établit une correspondance entre des informations collectées dans l'environnement par des capteurs et un « profil de cible ».
Il peut s'agir, par exemple, de la forme d'un véhicule militaire ou du mouvement d'une personne. C'est le véhicule ou la victime qui déclenche la frappe, et non l'utilisateur.
Ce qui est préoccupant avec ce processus, c'est que l'exercice de la force échappe au jugement humain et qu'il devient d'autant plus difficile de maîtriser les effets de ces armes.
Quand il active l'arme, comment l'utilisateur peut-il savoir si la forme qui déclenchera la frappe sera effectivement celle d'un véhicule militaire, et non d'une automobile conduite par des civils ?
Et même si elle fait feu contre un véhicule militaire, qu'en est-il des civils susceptibles de se trouver à proximité à cet instant précis ?
Quand ces armes verront-elles le jour ?
Les mines peuvent être considérées comme des armes autonomes rudimentaires. Nous savons bien quelles souffrances elles ont engendrées parmi la population civile dans de nombreux conflits – précisément parce que leurs effets sont difficiles à maîtriser. C'est ce qui a conduit la communauté internationale à interdire les mines antipersonnel en 1997.
D'autres types d'armes autonomes ont également été mises au point mais elles sont le plus souvent utilisées dans des conditions étroitement définies. Citons, par exemple, les systèmes de défense aérienne destinés à intercepter des missiles en approche ou encore les « drones kamikazes », ces munitions rôdeuses conçues pour détruire des radars militaires, des chars ou d'autres véhicules blindés.
Jusqu'à présent, ces armes autonomes ont généralement été employées contre des cibles militaires précises – à savoir : des armes, des munitions, des radars militaires et des chars ennemis – se trouvant dans des zones largement exemptes de civils ou de biens de caractère civil. 
En outre, elles sont généralement utilisées sous l'étroite supervision d'un humain ayant la capacité de les désactiver devant un événement imprévu ou un changement de conditions.
Toutefois, les technologies et pratiques en matière d'armement évoluent rapidement. Militaires comme fabricants d'armes ont exprimé leur volonté d'élargir la gamme des armes, plateformes et munitions dotées de la capacité à faire un exercice autonome de la force, notamment pour des drones armés qui sont actuellement pilotés à distance par des opérateurs humains.
Plus préoccupant encore, certains ont manifesté l'intérêt d'employer de telles armes pour cibler directement des personnes. 
Pourquoi les armes autonomes préoccupent-elles le CICR ?
Pour simplifier, ces armes font apparaître des risques humanitaires, des défis juridiques et des préoccupations éthiques parce qu'il est difficile d'anticiper et de limiter leurs effets.
Comme indiqué précédemment, elles accroissent les risques pour les personnes civiles, mais aussi pour les combattants qui ne participent plus aux hostilités, autrement dit ceux qui se sont rendus ou qui sont hors de combat.
En outre, les armes autonomes peuvent accélérer l'exercice de la force au point d'échapper à tout contrôle humain. Or, si la vitesse est susceptible d'offrir un avantage militaire dans certaines circonstances, à défaut d'être maîtrisée elle risque d'entraîner, de manière imprévisible, une intensification des violences et une aggravation des besoins humanitaires.
Défis juridiques
Lorsqu'ils mènent une attaque déterminée, les combattants sont tenus par le droit international humanitaire (DIH) de procéder à des évaluations juridiques qui tiennent compte du contexte dans lequel elle s'inscrit.
Les modalités de fonctionnement des armes autonomes, qui font que l'utilisateur ne choisit pas la cible spécifique, ni le moment ou le lieu précis d'une frappe, rendent cette obligation difficile à observer. En effet, dans quelles conditions leurs utilisateurs pourraient-ils être raisonnablement certains qu'elles ne seront déclenchées que par des personnes ou des biens qui sont des cibles licites à cet instant précis, et qu'elles n'infligeront pas un préjudice disproportionné à la population civile ?
Les armes autonomes présentent également des défis du point de vue de la responsabilité juridique. Lorsque des violations du DIH sont commises, il est essentiel de pouvoir en poursuivre les auteurs afin de rendre justice aux victimes mais aussi pour en empêcher la répétition. En temps normal, les enquêtes s'intéressent à la personne qui a fait feu et au commandant qui a ordonné l'attaque.
Mais dans le cas d'une arme autonome, qui expliquera, par exemple, pourquoi un autobus civil a été pris pour cible ?
De nombreuses questions se posent quant à savoir si les régimes juridiques actuels permettraient de retenir la responsabilité des auteurs présumés de crimes de guerre.
Préoccupations éthiques
Fondamentalement, le fait de confier à des capteurs et des logiciels des décisions de vie ou de mort est pour beaucoup source de profondes inquiétudes.
Les êtres humains sont guidés dans leurs décisions et leurs actions par leur conscience morale, même dans les conflits où les décisions de tuer sont en quelque sorte normalisées.
Les armes autonomes réduisent – voire risquent de supprimer – le contrôle humain sur les décisions de tuer, blesser et détruire. Il s'agit là d'un processus déshumanisant qui va à l'encontre de nos valeurs et désagrège notre humanité commune.
Ces préoccupations éthiques concernent toutes les armes autonomes qui mettent en danger des êtres humains, et à plus forte raison celles qui sont conçues ou utilisées pour cibler directement des personnes.
Quel est le rôle de l'intelligence artificielle et de l'apprentissage automatique dans les armes autonomes ?
Le recours à l'intelligence artificielle, et notamment à l'apprentissage automatique, pour contrôler des armes autonomes suscite un intérêt grandissant.
Un logiciel d'apprentissage automatique est « entraîné » à l'aide de données afin de créer un modèle, consistant à accomplir une tâche définie, ainsi que les stratégies à mettre en œuvre pour y parvenir. D'une certaine façon, le logiciel se programme tout seul.
Dans la majorité des cas, ce modèle constituera une « boîte noire », c'est-à-dire que l'être humain aura beaucoup de mal à prédire, comprendre, expliquer et tester la façon dont un système d'apprentissage automatique réalise une évaluation ou obtient un résultat donné, mais aussi à identifier les critères que le système aura utilisés pour cela.
Plusieurs applications, par exemple dans le domaine du maintien de l'ordre, ont déjà apporté la preuve que les systèmes d'apprentissage automatique ne sont pas exempts de biais algorithmiques préoccupants, notamment en termes de discrimination fondée sur la race, le sexe ou le genre.
Quelles que soient les armes autonomes, il peut être très difficile pour l'utilisateur de prédire leurs effets. Comme nous l'avons déjà indiqué, il se peut même qu'il ignore ce qui déclenchera une frappe. Les armes autonomes contrôlées par des programmes d'apprentissage automatique accentuent encore cette incertitude, ce qui laisse entrevoir la perspective d'une imprévisibilité inhérente à leur conception. Certains systèmes d'apprentissage automatique continuent d'« apprendre » une fois mis en service – c'est ce que l'on appelle l'apprentissage « pratique », « en ligne » ou « auto-apprentissage » – ce qui signifie que le modèle qu'ils attribuent à une tâche donnée évolue avec le temps.
Dans le cas des armes autonomes, si le système était autorisé à « apprendre » à identifier des cibles à partir de son expérience pratique, comment l'utilisateur pourrait-il avoir la certitude raisonnable que l'attaque sera lancée en conformité avec le DIH ?
Quelles mesures le CICR recommande-t-il aux gouvernements et à d'autres acteurs pour répondre à ces préoccupations ?
Le CICR a recommandé aux États d'adopter de nouvelles règles juridiquement contraignantes sur les armes autonomes. Ces règles contribueront à parer aux risques élevés de dommages parmi les populations civiles, mais aussi à répondre aux préoccupations éthiques, tout en présentant l'avantage d'offrir une sécurité et une stabilité juridiques.
Premièrement, les armes autonomes imprévisibles doivent être interdites. Ce sont celles qui sont conçues ou utilisées d'une manière qui ne permet pas de suffisamment comprendre, prédire et expliquer leurs effets. Cela inclut notamment les armes qui « apprennent » à définir leurs cibles en cours d'utilisation et, potentiellement, celles qui sont contrôlées par des logiciels d'apprentissage automatique en général.
Deuxièmement, les armes autonomes conçues et utilisées pour exercer la force directement contre des personnes doivent être interdites.
Troisièmement, il est nécessaire de réglementer strictement la conception et l'utilisation de toutes les autres armes autonomes en vue d'atténuer les risques évoqués plus haut, assurer le respect du droit et répondre aux préoccupations d'ordre éthique.
En sa qualité de gardien du DIH, le CICR ne recommande pas de créer de nouvelles règles sans avoir de motifs valables.
Par ailleurs, nous sommes aussi déterminés à promouvoir le développement progressif du droit, pour faire en sorte que les règles existantes ne soient pas amoindries. Nous souhaitons nous assurer que les protections accordées aux personnes touchées par des conflits sont respectées et, lorsque c'est nécessaire, renforcées à mesure qu'évoluent les armes et les méthodes de guerre.
Comme pour les mines antipersonnel, les armes à laser aveuglantes et les bombes à sous-munitions, il faut un nouveau traité juridiquement contraignant pour protéger les civils et les combattants. Il est impératif de préserver une certaine humanité dans la guerre.
Ces règles pourraient être énoncées sous la forme d'un nouveau protocole additionnel à la Convention sur certaines armes conventionnelles, ou d'un autre instrument juridiquement contraignant.
D'après le CICR, quelles sont les chances pour que de nouvelles règles soient adoptées ?
Nous sommes convaincus que les États s'accorderont sur de nouvelles règles internationales relatives aux armes autonomes. La majorité d'entre eux reconnaissent la nécessité de maintenir un niveau suffisant de contrôle et de jugement humains sur l'usage de la force, ce qui impliquera de soumettre les armes autonomes à des limites strictes.
Un nombre croissant d'États sont prêts à adopter des interdictions et des restrictions spécifiques. D'autres reconnaissent la nécessité de ces limites même s'ils ne se sont pas encore prononcés en faveur de nouvelles règles.
Certains de ces États qui s'opposaient auparavant à la mise en place de nouvelles règles se montrent aujourd'hui plus ouverts, peut-être sous l'effet de discussions multilatérales approfondies et des évolutions observées dans les conflits récents. Nous disposons maintenant de solutions crédibles et pragmatiques pour réglementer les armes autonomes. Au vu des avancées technologiques et des pratiques militaires de notre époque, il devient urgent de les mettre en place.
Il appartient désormais aux États de s'emparer moralement et politiquement de ces solutions pour en faire un instrument juridiquement contraignant qui protègera durablement les populations.
