¶ Richiesta 6: Divieto delle armi autonome

Una macchina che decide sulla vita e sulla morte senza che un essere umano prema il grilletto -- non è innovazione. È abolizione della responsabilità.

¶ Richiesta centrale

La Svizzera utilizza il suo ruolo di paese mediatore neutrale e si impegna attivamente per una moratoria internazionale sui sistemi d'arma IA autonomi letali. Ginevra è il luogo naturale per tali negoziati.

¶ Cosa sono le armi autonome

¶ Definizione

I sistemi d'arma letali autonomi (LAWS -- Lethal Autonomous Weapon Systems) sono armi che possono selezionare e attaccare obiettivi senza decisione umana. L'essere umano programma il sistema, ma nel momento dello sparo decide la macchina [1].

¶ Stato attuale

Sciami di droni: USA, Cina, Israele e Turchia sviluppano droni che identificano e attaccano autonomamente gli obiettivi. Il Kargu-2 turco avrebbe operato autonomamente per la prima volta in Libia nel 2020 [2].
Munizioni vaganti: Droni che pattugliano un'area e attaccano autonomamente gli obiettivi (ad es. Harop israeliano, Shahed iraniano).
Acquisizione obiettivi supportata dall'IA: Israele ha impiegato nel conflitto di Gaza un sistema IA denominato «Lavender» per l'identificazione degli obiettivi, che ha contrassegnato automaticamente migliaia di potenziali bersagli [3].

¶ Perché una moratoria?

¶ L'argomento etico

Le Convenzioni di Ginevra si basano sul principio della distinzione (tra combattenti e civili) e della proporzionalità. Entrambi i principi presuppongono il giudizio umano. Una macchina può riconoscere schemi -- ma non può giudicare se un bambino che porta un fucile giocattolo sia una minaccia [4].

¶ Il rischio di proliferazione

Le armi nucleari richiedono uranio, centrifughe, anni di sviluppo. Le armi autonome richiedono software e un drone acquistabile per poche centinaia di dollari. La velocità di proliferazione è di ordini di grandezza superiore a qualsiasi precedente categoria d'arma [5].

¶ La tradizione ginevrina

Ginevra è la sede del Comitato internazionale della Croce Rossa (CICR), dell'Ufficio delle Nazioni Unite, dell'Organizzazione mondiale della sanità e di numerose altre organizzazioni internazionali. Le Convenzioni di Ginevra del 1949 furono negoziate qui. La Convention on Certain Conventional Weapons (CCW), nel cui ambito si discute di LAWS dal 2014, si riunisce a Ginevra [6].

La Svizzera non è un paese qualsiasi che potrebbe chiedere una moratoria. È il paese in cui vengono scritte le regole della guerra.

¶ Misure concrete

Iniziativa diplomatica: La Svizzera presenta un progetto di risoluzione per una moratoria internazionale all'Assemblea generale dell'ONU.
Conferenza di Ginevra: Organizzazione di una conferenza internazionale sulle LAWS a Ginevra, con partecipazione di Stati, scienza, industria e società civile.
Divieto nazionale: La Svizzera vieta lo sviluppo, la produzione e l'esportazione di sistemi d'arma letali autonomi sul suo territorio.
Promozione della ricerca: Finanziamento della ricerca sulla sicurezza dell'IA e sui meccanismi di verifica presso PFZ, PFL e DCAF (Geneva Centre for Security Sector Governance).

¶ Fonti

[1] International Committee of the Red Cross (ICRC): Autonomous Weapon Systems.

[2] UN Panel of Experts on Libya: Rapporto sull'impiego del Kargu-2, 2021.

[3] +972 Magazine / Local Call: Rapporti d'inchiesta sul sistema IA «Lavender», aprile 2024.

[4] Asaro, Peter: On Banning Autonomous Weapon Systems. International Review of the Red Cross, 2012.

[5] Russell, Stuart: Human Compatible. Viking, 2019.

[6] Convention on Certain Conventional Weapons (CCW), Group of Governmental Experts on LAWS.