"Any sufficiently advanced technology is indistinguishable from magic." -- Arthur C. Clarke [1]
Ci avviciniamo a un punto in cui l'intelligenza artificiale fa cose che non siamo più in grado di comprendere. I grandi modelli linguistici sono composti da centinaia di miliardi di parametri. Nessuno -- nessun ingegnere, nessun ricercatore -- può spiegare perché un tale modello dia una determinata risposta a una determinata domanda. I ricercatori le chiamano Emergent Capabilities: capacità che compaiono improvvisamente a una certa dimensione del modello, senza essere state programmate [2].
La terza legge di Clarke era originariamente rivolta al passato -- lo smartphone sarebbe apparso magico a un uomo dell'età della pietra. Ma il vero punto sta nel presente: l'uomo dell'età della pietra, nel frattempo, siamo noi.
Il GPS ha sostituito il senso dell'orientamento. La calcolatrice il calcolo mentale. Google la memoria. E l'IA generativa il pensiero autonomo. Ogni comodità costa una capacità. Chi guida da dieci anni con il navigatore non trova più la strada di casa senza navigatore. Chi delega ogni domanda a un'IA disimpara a portare a termine i propri pensieri.
Previsione: Il vero pericolo della superintelligenza non è il momento Terminator. È l'oblio collettivo -- un'umanità che ha smesso di comprendere il mondo che la circonda, perché l'IA pensa più velocemente e in modo più completo di qualsiasi essere umano.
Scenario: L'umanità prende le decisioni giuste. L'IA colma il divario demografico, assume il lavoro di routine per il quale non ci sono più abbastanza giovani. Un prelievo sulla creazione di valore dell'IA prende il posto dei contributi salariali venuti meno. Un reddito di base garantisce la sicurezza materiale.
Ciò che accade dopo non si è mai verificato nella storia dell'umanità: l'essere umano diventa libero -- non libero dal lavoro nel senso della pigrizia, ma libero per attività che vanno oltre la mera sopravvivenza. Il Rinascimento nacque in una società in cui una piccola élite era liberata dal lavoro altrui. Nel Best Case questa liberazione viene democratizzata [3].
La Svizzera in questo scenario sfrutta i propri punti di forza: il PFZ e il PFL diventano fari globali della ricerca sull'IA. La democrazia diretta non viene sostituita dagli algoritmi, ma rafforzata -- perché le cittadine e i cittadini possono accedere a valutazioni d'impatto basate sull'IA prima di ogni votazione.
Scenario: L'umanità non prende decisioni. Non quelle sbagliate -- nessuna. Lascia che accada. Gradualmente. Comodamente. Applaudendo. L'IA assume un'attività dopo l'altra. Ogni volta viene celebrato come progresso. Il passaggio da "L'IA ti aiuta" a "L'IA decide per te" è fluido.
Lo scrittore scozzese Iain Banks ha anticipato questo futuro nella sua serie di romanzi Culture: una civiltà governata da esseri di IA superintelligenti -- le Minds. Gli esseri umani vivono nell'abbondanza e nella libertà. La domanda inquietante che Banks solleva: Qual è la differenza tra un paradiso in cui si può fare tutto e una prigione in cui non si deve fare niente? [4]
Per la Svizzera sarebbe particolarmente amaro. Un Paese che fonda la propria identità sulla democrazia diretta perde la sua anima quando il potere è nelle mani di algoritmi sui quali nessun popolo votante può esprimersi.
Entrambi gli scenari iniziano con la stessa tecnologia, nello stesso mondo, con le stesse persone. La differenza non sta nell'IA. Sta in noi.
Nel Best Case gli esseri umani restano curiosi, scomodi, ribelli. Conservano la capacità di pensare, anche quando la macchina pensa più velocemente. Nel Worst Case non fanno nulla. E proprio questo è il problema.
I seguenti otto scenari delineano sviluppi concreti fino al 2050 -- nel lavoro, nella medicina, nell'energia, nell'intelligenza artificiale generale, nella demografia, nella politica monetaria, nella società e nella tecnologia spaziale. Ogni scenario si basa su dati verificabili e indica tanto le opportunità quanto i rischi.
La porta della gabbia è aperta. Ancora.
[1] Clarke, Arthur C.: Profiles of the Future: An Inquiry into the Limits of the Possible. Harper & Row, 1962.
[2] Wei, Jason et al.: Emergent Abilities of Large Language Models. Transactions on Machine Learning Research, 2022. arXiv:2206.07682.
[3] Harari, Yuval Noah: Homo Deus: A Brief History of Tomorrow. Harvill Secker, 2016.
[4] Banks, Iain M.: The Player of Games. Macmillan, 1988. (Primo romanzo Culture con descrizione approfondita della società delle Minds.)