Zum Inhalt
Verein in Gründung
Pilotbetrieb

Diese Plattform befindet sich im Pilotbetrieb. Trotz sorgfältiger Prüfung können Inhalte und Funktionen Fehler enthalten. Bitte überprüfe wichtige Angaben anhand der verlinkten Originalquellen.

SW-Version alpha 0.41
Darstellung: System
Sprache: DE

Richiesta 7: Controllo internazionale dell'AGI

Chi controlla l'AGI controlla potenzialmente l'economia globale, l'infrastruttura di cybersicurezza e la superiorità militare.

Richiesta centrale

Le imprese che sviluppano sistemi con intelligenza generale (AGI) devono sottostare a un'autorità di vigilanza internazionale -- simile all'AIEA per la tecnologia nucleare. Nessuna AGI senza legittimazione democratica e controllo internazionale.

Cosa significa AGI

Intelligenza Artificiale Generale (AGI) designa un sistema IA che opera a livello umano o sovrumano in tutti i domini cognitivi -- non solo in un compito specialistico (come scacchi o generazione di testo), ma in ogni attività intellettuale [1].

I laboratori IA leader -- OpenAI, Google DeepMind, Anthropic -- dichiarano pubblicamente che l'AGI è il loro obiettivo. Sam Altman (OpenAI) parlò nel 2024 di «pochi anni» [2]. La potenza di calcolo raddoppia ogni due anni. Gli algoritmi migliorano più velocemente. E dal gennaio 2026 l'IA migliora sempre più sé stessa.

Perché un controllo internazionale?

Il modello AIEA

L'Agenzia internazionale per l'energia atomica (AIEA) fu fondata nel 1957 per promuovere l'uso civile dell'energia nucleare e contemporaneamente impedire la proliferazione delle armi atomiche. Il modello si basa su tre pilastri [3]:

  1. Ispezioni: Verifica regolare degli impianti nucleari.
  2. Salvaguardie: Misure tecniche per impedire abusi.
  3. Obblighi di comunicazione: Stati e imprese devono rendere note le loro attività.

Un'autorità internazionale di vigilanza sull'IA potrebbe funzionare secondo lo stesso schema:

AIEA Vigilanza IA
Materiale nucleare Capacità di calcolo oltre la soglia
Ispezioni degli impianti Audit dei cicli di addestramento
Salvaguardie contro sviluppo di armi Test di sicurezza prima del deployment
Obblighi di comunicazione Trasparenza su capacità e rischi

Misure concrete

  1. Iniziativa svizzera: La Svizzera presenta all'Assemblea generale dell'ONU una proposta per un'autorità internazionale di vigilanza sull'IA.
  2. Sede a Ginevra: L'autorità dovrebbe avere sede a Ginevra -- accanto a CICR, OMS e OMC.
  3. Soglia: Ogni sistema IA addestrato con più di una determinata capacità di calcolo (ad es. 10^26 FLOP) è soggetto alla vigilanza.
  4. Test di sicurezza: Prima della pubblicazione di un modello frontier devono essere condotti test red-team indipendenti e i risultati devono essere pubblicati.
  5. Legittimazione democratica: L'autorità di vigilanza rende conto a un organo di rappresentanti eletti, non solo a delegati governativi.

Fonti

[1] Bostrom, Nick: Superintelligence. Oxford University Press, 2014.

[2] Altman, Sam: Dichiarazioni pubbliche sulla timeline AGI, 2024.

[3] AIEA: Statute of the International Atomic Energy Agency, 1957.

[4] Financial Times, Wall Street Journal: Rapporti sulla valutazione di OpenAI, 2024/2025.

[5] Goldschmidt, Bertrand: The Atomic Complex. American Nuclear Society, 1982.