« Any sufficiently advanced technology is indistinguishable from magic. » -- Arthur C. Clarke [1]
Nous approchons d'un point où l'intelligence artificielle fait des choses que nous ne comprenons plus. Les grands modèles de langage se composent de centaines de milliards de paramètres. Personne -- aucun ingénieur, aucun chercheur -- ne peut expliquer pourquoi un tel modèle donne une réponse précise à une question précise. Les chercheurs appellent cela les Emergent Capabilities : des capacités qui apparaissent soudainement à partir d'une certaine taille de modèle, sans avoir été programmées [2].
La troisième loi de Clarke s'adressait à l'origine au passé -- le smartphone aurait semblé magique à un homme des cavernes. Mais la véritable pointe concerne le présent : L'homme des cavernes, c'est désormais nous.
Le GPS a remplacé le sens de l'orientation. La calculatrice le calcul mental. Google la mémoire. Et l'IA générative la pensée autonome. Chaque confort coûte une compétence. Celui qui conduit depuis dix ans avec un GPS ne retrouve plus son chemin sans GPS. Celui qui délègue chaque question à une IA désapprend à mener ses propres pensées à terme.
Pronostic : Le véritable danger de la superintelligence n'est pas le moment Terminator. C'est l'oubli collectif -- une humanité qui a cessé de comprendre le monde qui l'entoure, parce que l'IA pense plus vite et de manière plus complète que tout être humain.
Scénario : L'humanité prend les bonnes décisions. L'IA comble le déficit démographique, prend en charge le travail routinier pour lequel il n'y a plus assez de jeunes. Une redevance sur la valeur ajoutée de l'IA remplace les cotisations salariales disparues. Un revenu de base assure le socle matériel.
Ce qui se passe ensuite n'a jamais existé dans l'histoire de l'humanité : l'être humain devient libre -- non pas libre de travailler au sens de la paresse, mais libre pour des activités qui dépassent la simple survie. La Renaissance est née dans une société où une petite élite était libérée du travail des autres. Dans le meilleur des cas, cette libération sera démocratisée [3].
La Suisse dans ce scénario exploite ses forces : l'ETH et l'EPFL deviennent des phares mondiaux de la recherche en IA. La démocratie directe n'est pas remplacée par des algorithmes, mais renforcée -- parce que les citoyennes et citoyens peuvent accéder à des évaluations d'impact assistées par l'IA avant chaque votation.
Scénario : L'humanité ne prend aucune décision. Pas les mauvaises -- aucune. Elle laisse faire. Insidieusement. Confortablement. En applaudissant. L'IA prend en charge une activité après l'autre. Chaque fois, c'est célébré comme un progrès. La transition de « L'IA t'aide » à « L'IA décide pour toi » est fluide.
L'écrivain écossais Iain Banks a anticipé cet avenir dans sa série de romans Culture : une civilisation gouvernée par des entités IA superintelligentes -- les Minds. Les humains vivent dans l'abondance et la liberté. La question troublante que Banks pose : Quelle est la différence entre un paradis où l'on peut tout faire et une prison où l'on ne doit rien faire ? [4]
Pour la Suisse, ce serait particulièrement amer. Un pays qui fonde son identité sur la démocratie directe perd son âme quand le pouvoir réside dans des algorithmes sur lesquels aucun peuple ne peut voter.
Les deux scénarios commencent avec la même technologie, dans le même monde, avec les mêmes personnes. La différence ne réside pas dans l'IA. Elle réside en nous.
Dans le meilleur des cas, les humains restent curieux, inconfortables, récalcitrants. Ils préservent la capacité de penser, même quand la machine pense plus vite. Dans le pire des cas, ils ne font rien. Et c'est précisément le problème.
Les huit scénarios suivants esquissent des évolutions concrètes jusqu'en 2050 -- dans le travail, la médecine, l'énergie, l'Intelligence Artificielle Générale, la démographie, la politique monétaire, la société et la technologie spatiale. Chaque scénario s'appuie sur des données vérifiables et nomme tant les opportunités que les risques.
La porte de la cage est ouverte. Encore.
[1] Clarke, Arthur C.: Profiles of the Future: An Inquiry into the Limits of the Possible. Harper & Row, 1962.
[2] Wei, Jason et al.: Emergent Abilities of Large Language Models. Transactions on Machine Learning Research, 2022. arXiv:2206.07682.
[3] Harari, Yuval Noah: Homo Deus: A Brief History of Tomorrow. Harvill Secker, 2016.
[4] Banks, Iain M.: The Player of Games. Macmillan, 1988. (Premier roman Culture avec description détaillée de la société des Minds.)