Zum Inhalt
Verein in Gründung
Pilotbetrieb

Diese Plattform befindet sich im Pilotbetrieb. Trotz sorgfältiger Prüfung können Inhalte und Funktionen Fehler enthalten. Bitte überprüfe wichtige Angaben anhand der verlinkten Originalquellen.

SW-Version alpha 0.41
Darstellung: System
Sprache: DE

Exigence 7 : Contrôle international de l'AGI

Ce qui est plus puissant qu'une arme nucléaire doit être contrôlé au moins aussi strictement.

Le problème

L'Artificial General Intelligence (AGI) -- un système d'IA opérant à un niveau humain ou surhumain dans tous les domaines cognitifs -- sera probablement développée d'ici 2035. Elle conférera à son détenteur un pouvoir sans précédent dans l'histoire : contrôle de l'économie, de la cybersécurité, de la supériorité militaire [1].

Actuellement, le développement de l'AGI est entre les mains de quelques entreprises privées (OpenAI, Google DeepMind, Anthropic) et d'un État (Chine). Aucune instance internationale n'a de mandat de surveillance, d'inspection ou de contrôle.

L'exigence

1. Agence internationale de l'IA (AIAA)

Création d'une Agence internationale de l'intelligence artificielle (AIAA), calquée sur l'AIEA (Agence internationale de l'énergie atomique, fondée en 1957) [2] :

  • Surveillance : Monitoring des capacités IA des acteurs étatiques et privés
  • Normes : Standards de sécurité pour les systèmes avancés
  • Inspections : Droit de vérification des centres de développement AGI
  • Sanctions : Mécanismes de pénalité pour les contrevenants

2. Genève comme siège

Genève, siège de l'ONU à Genève, du CICR, de l'OMS, de l'OMC et de plus de 40 organisations internationales, est le lieu naturel pour l'AIAA. La Suisse a la neutralité, l'expertise diplomatique et l'infrastructure [3].

3. Pas d'AGI sans légitimation démocratique

Aucun système atteignant le niveau AGI ne peut être déployé sans l'approbation d'un organe international démocratiquement légitimé. L'AGI est trop puissante pour être laissée aux seules mains d'actionnaires ou d'autocrates.

Le précédent nucléaire

En 1945, la bombe atomique existait. En 1957, l'AIEA était fondée. Il a fallu 12 ans. Pour l'AGI, nous n'avons peut-être pas 12 ans. La Suisse doit agir maintenant -- pas quand l'AGI existe déjà.

Bibliographie

[1] Bostrom, Nick : Superintelligence. Oxford University Press, 2014.

[2] AIEA : Statut, 1957. iaea.org.

[3] Genève internationale : Geneva as a Hub for AI Governance. 2024.