Une machine ne doit jamais décider de tuer un être humain.
Les systèmes d'armes autonomes létaux (SALA) -- des armes qui identifient, sélectionnent et engagent des cibles sans intervention humaine -- ne sont plus théoriques. En 2021, en Libye, un drone Kargu-2 a engagé des cibles de manière autonome -- le premier cas documenté par l'ONU [1].
La course aux armements autonomes est en cours. Plus de 30 pays développent des systèmes d'armes intégrant l'IA. Les grandes puissances refusent une interdiction contraignante [2].
La Suisse interdit le développement, la production, l'acquisition et l'utilisation de systèmes d'armes autonomes létaux. Sans exceptions. Le principe de contrôle humain significatif (meaningful human control) sur chaque décision de tir est non négociable [3].
La Suisse, dépositaire des Conventions de Genève, lance une initiative diplomatique pour une convention internationale interdisant les SALA -- une cinquième Convention de Genève pour l'ère de l'IA.
Genève est le lieu naturel. Le CICR a pris position en faveur de nouvelles règles contraignantes. La Suisse a la légitimité diplomatique et l'infrastructure [4].
Comme pour les armes nucléaires, un régime de vérification international est nécessaire. Des inspections, des normes techniques, des sanctions pour les contrevenants.
Les armes autonomes sont moins chères que les soldats. Elles n'ont pas de familles qui protestent. Elles n'ont pas de conscience. Elles sont le rêve de chaque autocrate -- et le cauchemar de chaque démocratie.
La fenêtre pour une interdiction se ferme. Une fois que les armes autonomes sont déployées à grande échelle, une interdiction devient aussi illusoire que le désarmement nucléaire.
[1] Panel d'experts de l'ONU sur la Libye : Rapport S/2021/229, 2021.
[2] CCW : Groupe d'experts gouvernementaux sur les SALA. unog.ch.
[3] CICR : Autonomous Weapon Systems -- Implications of Increasing Autonomy. 2014.
[4] DFAE : La Suisse et le droit international humanitaire. eda.admin.ch.