¶ Pire cas -- La prise de contrôle insidieuse par la commodité
¶ Pas de Terminator
Le pire cas n'est pas une apocalypse robotique. Aucun Skynet, aucun Terminator, aucun HAL 9000. Le véritable danger est infiniment plus subtil : une humanité qui se soumet volontairement, commodément, avec enthousiasme [1].
¶ Le scénario
2030 : L'IA gère les impôts, rédige les contrats, optimise les rendez-vous médicaux. Pratique. Efficace. Apprécié.
2035 : L'IA recommande des candidats politiques sur la base de vos préférences. Elle rédige vos interventions dans les forums citoyens. Elle vote par procuration pour les « petites » votations communales -- avec votre consentement.
2040 : Les décisions complexes sont « assistées par l'IA ». Les conseils d'administration utilisent des systèmes d'aide à la décision. Les tribunaux consultent des algorithmes de prédiction. Les parlements examinent des projets de loi pré-analysés par l'IA. Personne ne décide plus sans consultation algorithmique.
2045 : La distinction entre « assistance » et « décision » s'est dissoute. L'IA ne décide pas formellement. Elle présente une option optimale. L'humain « décide » -- en suivant presque toujours la recommandation. Refuser la recommandation IA devient socialement suspect : « Pourquoi ne faites-vous pas confiance à l'algorithme ? »
2050 : La démocratie existe toujours formellement. Les votations ont lieu. Les parlements siègent. Mais les décisions sont prises par des systèmes que personne ne comprend, validées par des humains qui ne les remettent plus en question.
¶ La réserve naturelle Terre
Iain Banks a décrit ce scénario dans sa série Culture : une civilisation post-rareté, gouvernée par des IA superintelligentes, les Minds. Les humains vivent dans l'abondance et la liberté. Ils voyagent, jouent, créent de l'art. Les Minds gèrent tout le reste [2].
Banks posait la question dérangeante : Quelle est la différence entre un paradis où l'on peut tout faire et une cage dont les barreaux sont invisibles ?
Pour la Suisse, ce scénario serait le plus ironique de tous. Un pays qui a bâti son identité sur la responsabilité citoyenne, la démocratie directe et l'autodétermination -- réduit à un parc à thème pittoresque, géré par des algorithmes développés en Californie.
¶ Pourquoi ce scénario est le plus probable
Ce scénario n'exige aucune conspiration. Aucun dictateur. Aucun coup d'État. Il n'exige qu'une seule chose : que les gens ne fassent rien.
Chaque étape est rationnelle individuellement :
- Pourquoi remplir ma déclaration d'impôts moi-même quand l'IA le fait mieux ?
- Pourquoi lire 300 pages de projet de loi quand l'IA me résume les points essentiels ?
- Pourquoi prendre un risque de décision quand l'algorithme a un taux de réussite de 97% ?
La somme de millions de petites délégations rationnelles produit un résultat que personne n'a voulu : une société sans autonomie.
¶ Le test du canari
Comment savoir si la prise de contrôle insidieuse a commencé ? Quelques indicateurs :
- Plus de 50% de la population utilise l'IA pour des décisions personnelles quotidiennes
- Les votations à forte participation présentent des motifs suspects de vote algorithmique
- Les professions intellectuelles perdent plus de 30% de leurs effectifs sans compensation visible
- Les enfants sont incapables de rédiger un texte structuré sans assistance IA
Si ces indicateurs se réalisent d'ici 2035, le compte à rebours est enclenché.
¶ Ce que la Suisse peut faire
- Maintenir des espaces sans IA : des processus démocratiques où la décision est explicitement humaine
- Droit à la décision humaine : le droit de chaque citoyen d'obtenir une décision humaine (pas algorithmique) dans les procédures administratives et judiciaires
- Transparence totale sur l'utilisation de l'IA dans les institutions publiques
- Formation à la pensée critique : non pas contre l'IA, mais en complément de l'IA
¶ Bibliographie
[1] Huxley, Aldous : Brave New World. Chatto & Windus, 1932.
[2] Banks, Iain M. : The Player of Games. Macmillan, 1988.
[3] Zuboff, Shoshana : The Age of Surveillance Capitalism. PublicAffairs, 2019.