¶ L'espropriazione cognitiva silenziosa

¶ Il comfort come trappola

Prima viene il comfort. E con il comfort viene l'espropriazione cognitiva. Gradualmente. Volontariamente.

Il GPS ha sostituito il senso dell'orientamento. La calcolatrice il calcolo mentale. Google la memoria. E ChatGPT il pensiero autonomo. Ogni comodità costa una capacità. Non è pessimismo culturale. È un'osservazione sobria.

Chi da dieci anni guida con il navigatore non trova più la strada di casa senza. Chi delega ogni domanda a un'IA disimpara a portare a termine i propri pensieri. Esternalizziamo capacità cognitive come l'industria ha esternalizzato la produzione in Asia. È più economico. È più comodo. E crea dipendenza.

¶ Le fasi dell'esternalizzazione

L'esternalizzazione cognitiva segue uno schema che si estende su decenni:

Ogni fase è stata celebrata come progresso. E ogni fase ha ristretto un po' di più lo spazio in cui l'essere umano pensa ancora da sé.

¶ Evidenza scientifica

Gli effetti sono misurabili. Uno studio dell'University College London ha mostrato che i tassisti londinesi che navigavano per anni senza navigatore presentavano un ippocampo significativamente più grande -- la regione cerebrale responsabile dell'orientamento spaziale. Negli utenti del GPS quest'area si riduceva in modo misurabile. [1]

Nicholas Carr argomentò già nel 2010 in The Shallows che Internet distrugge la nostra capacità di lettura profonda e concentrata. Non perché Internet sia malvagio, ma perché il cervello si adatta all'acquisizione superficiale e frammentata delle informazioni. [2] Ciò che Carr descrisse per Google vale per l'IA generativa in forma potenziata: se la macchina non solo fornisce informazioni, ma produce anche l'analisi, il riassunto e la conclusione, cosa resta per lo spirito umano?

¶ L'Alzheimer collettivo

L'ironia è amara. La stessa specie che addomesticò il fuoco, inventò la ruota e formulò la teoria della relatività rinuncia volontariamente ai propri strumenti mentali. Non sotto costrizione. Con applauso. Ogni nuova app, ogni nuovo assistente, ogni nuova automazione viene celebrata. E ogni volta si restringe lo spazio in cui l'essere umano pensa ancora da sé.

È come togliere il lavoro a un muscolo e poi meravigliarsi che si atrofizza.

Il vero pericolo della superintelligenza non è il momento Terminator. È l'Alzheimer collettivo: un'umanità che ha smesso di comprendere il mondo intorno a sé, perché l'IA pensa più velocemente, più profondamente e più ampiamente di qualsiasi essere umano.

¶ Emergent Capabilities -- Macchine che non comprendiamo

I grandi modelli linguistici sono costituiti da centinaia di miliardi di parametri. Nessuno -- nessun ingegnere, nessun ricercatore -- può spiegare perché un tale modello dia una determinata risposta a una determinata domanda. I ricercatori le chiamano «Emergent Capabilities» -- capacità che a una determinata dimensione del modello appaiono improvvisamente, senza essere state programmate. [3]

Nessuno ha insegnato a questi modelli a trarre conclusioni logiche o a scrivere poesie. Lo fanno semplicemente. A partire da una certa complessità emerge qualcosa che assomiglia alla comprensione. Se sia comprensione, nessuno lo sa.

Abbiamo costruito macchine che non comprendiamo. E continuiamo a costruirle perché funzionano.

¶ Huxley aveva ragione

1984 di George Orwell descrive una società di sorveglianza totale attraverso la coercizione. Ma Il mondo nuovo di Aldous Huxley del 1932 è la profezia più precisa. La distopia di Huxley non funziona attraverso l'oppressione, ma attraverso la soddisfazione. Le persone non vengono imprigionate. Vengono intrattenute. [4]

Orwell temeva che i libri venissero proibiti. Huxley temeva che nessuno volesse più leggere un libro. Orwell temeva il rifiuto della verità. Huxley temeva che la verità annegasse in un mare di irrilevanza.

Novant'anni dopo la sua pubblicazione, Il mondo nuovo si legge come un manuale per ciò che sta arrivando.

¶ Cosa significa per la Svizzera

La democrazia diretta svizzera presuppone cittadini maturi. Cittadini che leggono gli oggetti in votazione, ponderano gli argomenti, giudicano autonomamente. Se queste capacità si erodono -- non per la censura, ma per la comodità -- la democrazia diretta perde le sue fondamenta.

La domanda non è se gli assistenti IA siano utili. La domanda è se preserviamo la capacità di funzionare senza di essi. Perché una società che senza le sue macchine non sa più pensare non è libera. È dipendente. E la dipendenza è il contrario della democrazia.

---

¶ Fonti

[1] Maguire, Eleanor A. et al.: "Navigation-related structural change in the hippocampi of taxi drivers." Proceedings of the National Academy of Sciences, 2000.

[2] Carr, Nicholas: The Shallows: What the Internet Is Doing to Our Brains. W. W. Norton, 2010.

[3] Wei, Jason et al.: "Emergent Abilities of Large Language Models." Transactions on Machine Learning Research, 2022.

[4] Huxley, Aldous: Brave New World. Chatto & Windus, 1932. Orwell, George: Nineteen Eighty-Four. Secker & Warburg, 1949.