¶ Democrazia -- Quando gli algoritmi decidono meglio del popolo votante
¶ La domanda scomoda
Per la Svizzera la questione del futuro della democrazia è esistenziale. Nessun altro paese al mondo costruisce la propria identità così fortemente sulla codecisione diretta di ogni cittadino, sul controllo del potere da parte del popolo. Trimestralmente votiamo. Su leggi, modifiche costituzionali, imposte, infrastrutture. Decidiamo noi stessi.
Ma cosa succede se un algoritmo prende dimostrabilmente decisioni migliori del popolo votante? Si vota allora sull'algoritmo? O si lascia votare l'algoritmo?
¶ La democrazia muore per irrilevanza
La democrazia in questo scenario non muore per un colpo di Stato. Muore per irrilevanza. [1]
Le elezioni si tengono, ma le vere decisioni le prendono gli algoritmi:
- L'algoritmo determina quali notizie vedi
- L'algoritmo determina quale credito ottieni
- L'algoritmo determina se la tua candidatura viene letta
I politici eletti approvano leggi -- ma le leggi non funzionano, perché la tecnologia è più veloce della regolamentazione e le multinazionali più potenti degli Stati.
¶ I Minds di Banks -- La dittatura più gentile
La serie Culture di Iain Banks descrive una civiltà governata da esseri IA superintelligenti, i «Minds». Gli esseri umani nella Culture vivono in abbondanza e libertà. Possono fare ciò che vogliono. Non devono lavorare. Devono decidere poco. [2]
Banks stesso vedeva la Culture come un'utopia. Ma la domanda inquietante resta: una società in cui le intelligenze artificiali prendono tutte le decisioni rilevanti è ancora una democrazia? Anche se le decisioni sono oggettivamente migliori?
La democrazia diretta svizzera si basa sulla premessa che il popolo sia capace di giudicare questioni complesse. La votazione sullo SEE del 1992 fu un atto di sovranità. Una votazione sull'algoritmo di Google è impensabile -- non perché sarebbe vietata, ma perché nessuno comprende l'algoritmo.
¶ Da tre a cinque gruppi controllano l'infrastruttura
Nello scenario peggiore da tre a cinque gruppi tecnologici controllano l'infrastruttura IA: i modelli, i centri di calcolo, i dati. Offrono i loro servizi gratuitamente -- come Google offre la ricerca gratuitamente, come Meta offre le reti sociali gratuitamente. [3]
Gratuito significa: tu non sei il cliente. Tu sei il prodotto.
- Un tutor IA istruisce tuo figlio -- gratuitamente, individualmente, brillantemente. Ma il tutor sa tutto di tuo figlio: i suoi punti di forza, le sue debolezze, le sue paure, le sue inclinazioni politiche.
- Un medico IA diagnostica la tua malattia -- con maggiore precisione di qualsiasi essere umano. Ma la diagnosi non appartiene a te. Appartiene al gruppo.
¶ Perdita d'identità della Svizzera
La Svizzera ha costruito la propria identità nel corso di secoli su quattro pilastri:
- Democrazia diretta -- Codecisione su questioni concrete
- Federalismo -- Decisioni il più vicino possibile al cittadino
- Neutralità -- Indipendenza dai blocchi di potere
- Sussidiarietà -- Lo Stato interviene solo dove il singolo non può
Tutti e quattro i pilastri sono minacciati da un mondo dominato dall'IA:
- La democrazia diretta perde il suo senso se le decisioni rilevanti sono negli algoritmi
- Il federalismo viene aggirato se gruppi globali controllano l'infrastruttura
- La neutralità diventa insignificante in un mondo in cui il controllo dell'AGI determina il potere
- La sussidiarietà viene portata all'assurdo se l'IA può fare tutto meglio del singolo
¶ Lo stalinismo digitale non ha bisogno di gulag
Il tuo smartphone sa dove sei. La tua banca sa cosa compri. La tua assicurazione malattia sa quanto vivi sano. Questi dati, combinati con l'IA, rendono possibile un controllo di cui Stalin poteva solo sognare. E il passaggio da «l'IA ti aiuta» a «l'IA decide per te» è fluido. [4]
Lo stalinismo digitale non ha bisogno di gulag. Ha bisogno solo di comodità e ignoranza. Ha bisogno di persone che rinunciano volontariamente alla propria libertà -- in cambio del comfort di non dover più pensare da sé.
¶ Cosa va fatto
Due delle nove richieste politiche riguardano direttamente la democrazia:
Trasparenza degli algoritmi: Tutti i sistemi di IA che nello spazio informativo pubblico danno priorità, classificano o filtrano contenuti devono rendere noti i loro criteri. Un algoritmo che decide quali notizie vedono 300 milioni di persone prende ogni giorno più decisioni politiche di qualsiasi parlamentare. [5]
Divieto della sorveglianza di massa tramite IA: La sorveglianza biometrica in tempo reale supportata dall'IA nello spazio pubblico va vietata nella Costituzione federale -- senza eccezioni.
La votazione sullo SEE del 1992 fu un atto di sovranità. La domanda della prossima generazione sarà se una tale votazione sia ancora possibile -- o se gli algoritmi abbiano già deciso da tempo.
¶ Fonti
[1] Harari, Yuval Noah: Homo Deus: A Brief History of Tomorrow. Harvill Secker, 2016.
[2] Banks, Iain M.: The Player of Games. Macmillan, 1988. Sul ruolo dei «Minds» nella società Culture.
[3] Zuboff, Shoshana: The Age of Surveillance Capitalism. New York: PublicAffairs, 2019. Sull'estrazione di dati da parte dei gruppi tecnologici.
[4] EU AI Act (Regolamento UE 2024/1689), entrato in vigore il 1° agosto 2024. Disposizioni sulla sorveglianza biometrica.
[5] AlgorithmWatch: Automated Decision-Making Systems and Discrimination. Berlino, 2023. Sulla trasparenza del processo decisionale algoritmico.