Le pire cas n'est pas une apocalypse robotique. Aucun Skynet, aucun Terminator, aucun HAL 9000. Le véritable danger est infiniment plus subtil : une humanité qui se soumet volontairement, commodément, avec enthousiasme [1].
2030 : L'IA gère les impôts, rédige les contrats, optimise les rendez-vous médicaux. Pratique. Efficace. Apprécié.
2035 : L'IA recommande des candidats politiques sur la base de vos préférences. Elle rédige vos interventions dans les forums citoyens. Elle vote par procuration pour les « petites » votations communales -- avec votre consentement.
2040 : Les décisions complexes sont « assistées par l'IA ». Les conseils d'administration utilisent des systèmes d'aide à la décision. Les tribunaux consultent des algorithmes de prédiction. Les parlements examinent des projets de loi pré-analysés par l'IA. Personne ne décide plus sans consultation algorithmique.
2045 : La distinction entre « assistance » et « décision » s'est dissoute. L'IA ne décide pas formellement. Elle présente une option optimale. L'humain « décide » -- en suivant presque toujours la recommandation. Refuser la recommandation IA devient socialement suspect : « Pourquoi ne faites-vous pas confiance à l'algorithme ? »
2050 : La démocratie existe toujours formellement. Les votations ont lieu. Les parlements siègent. Mais les décisions sont prises par des systèmes que personne ne comprend, validées par des humains qui ne les remettent plus en question.
Iain Banks a décrit ce scénario dans sa série Culture : une civilisation post-rareté, gouvernée par des IA superintelligentes, les Minds. Les humains vivent dans l'abondance et la liberté. Ils voyagent, jouent, créent de l'art. Les Minds gèrent tout le reste [2].
Banks posait la question dérangeante : Quelle est la différence entre un paradis où l'on peut tout faire et une cage dont les barreaux sont invisibles ?
Pour la Suisse, ce scénario serait le plus ironique de tous. Un pays qui a bâti son identité sur la responsabilité citoyenne, la démocratie directe et l'autodétermination -- réduit à un parc à thème pittoresque, géré par des algorithmes développés en Californie.
Ce scénario n'exige aucune conspiration. Aucun dictateur. Aucun coup d'État. Il n'exige qu'une seule chose : que les gens ne fassent rien.
Chaque étape est rationnelle individuellement :
La somme de millions de petites délégations rationnelles produit un résultat que personne n'a voulu : une société sans autonomie.
Comment savoir si la prise de contrôle insidieuse a commencé ? Quelques indicateurs :
Si ces indicateurs se réalisent d'ici 2035, le compte à rebours est enclenché.
[1] Huxley, Aldous : Brave New World. Chatto & Windus, 1932.
[2] Banks, Iain M. : The Player of Games. Macmillan, 1988.
[3] Zuboff, Shoshana : The Age of Surveillance Capitalism. PublicAffairs, 2019.