Ce qui est plus puissant qu'une arme nucléaire doit être contrôlé au moins aussi strictement.
L'Artificial General Intelligence (AGI) -- un système d'IA opérant à un niveau humain ou surhumain dans tous les domaines cognitifs -- sera probablement développée d'ici 2035. Elle conférera à son détenteur un pouvoir sans précédent dans l'histoire : contrôle de l'économie, de la cybersécurité, de la supériorité militaire [1].
Actuellement, le développement de l'AGI est entre les mains de quelques entreprises privées (OpenAI, Google DeepMind, Anthropic) et d'un État (Chine). Aucune instance internationale n'a de mandat de surveillance, d'inspection ou de contrôle.
Création d'une Agence internationale de l'intelligence artificielle (AIAA), calquée sur l'AIEA (Agence internationale de l'énergie atomique, fondée en 1957) [2] :
Genève, siège de l'ONU à Genève, du CICR, de l'OMS, de l'OMC et de plus de 40 organisations internationales, est le lieu naturel pour l'AIAA. La Suisse a la neutralité, l'expertise diplomatique et l'infrastructure [3].
Aucun système atteignant le niveau AGI ne peut être déployé sans l'approbation d'un organe international démocratiquement légitimé. L'AGI est trop puissante pour être laissée aux seules mains d'actionnaires ou d'autocrates.
En 1945, la bombe atomique existait. En 1957, l'AIEA était fondée. Il a fallu 12 ans. Pour l'AGI, nous n'avons peut-être pas 12 ans. La Suisse doit agir maintenant -- pas quand l'AGI existe déjà.
[1] Bostrom, Nick : Superintelligence. Oxford University Press, 2014.
[2] AIEA : Statut, 1957. iaea.org.
[3] Genève internationale : Geneva as a Hub for AI Governance. 2024.