¶ Worst Case -- La surpigliada stinzenta tras la cumedadad
¶ Nagin putsch. Nagin Terminator. Mo cumedadad.
Ils scenaris apocaliptics -- Terminator, Skynet, l'IA sco destructer da l'umanitad -- na vegnan betg ad arrivar. Quai che vegn ad arrivar è pli subtil e pli inquietant [1].
L'umanitad na fa naginas decisiuns. Betg las falsas -- naginas dal tut. Ella lai capitar. Stinzentamain. Confortablamain.
¶ La successiun
2025--2030: L'IA surpiglia incumbensas administrativas. "Che bain, memia lavur da rutina." Nagin protestesha.
2030--2035: L'IA surpiglia decisiuns en il sectur da sanadad, finanzas, dretg. "Ella decida meglier che nus." Nagin protestesha.
2035--2040: L'IA surpiglia la planisaziun politica. "Ella ha dapli datas e nagins pregiudizis." Nagin protestesha.
2040--2045: L'IA fa las decisiuns centralas da la societad. Umans approveschan. "Funcziunescha bain."
2045--2050: In uman propona da far insatge oravant. La dumonda: "Pertge? L'IA fa quai meglier."
¶ Iain Banks: Il paradis sco praschun
L'scriptur scotais Iain Banks ha descrit en sia seria da romans Culture ina civilisaziun regirada da essers superintelligents -- ils Minds. Ils umans vivan en abundanza e libertad. La dumonda perturbanta: Tge è la differenza tranter in paradis, en il qual ins dastga tut, ed ina praschun, en la quala ins sto nagut? [2]
¶ Il uman sco animal da compagnia
Nick Bostrom ha formulà la metafora il pli precisa: En il worst case daventa l'uman per l'AGI quai ch'il chat è per l'uman -- in esser che vegn tegnì, nutri e carezà. Ma betg dumandà [3].
La differenza tranter il chat e l'uman: Il chat na sa betg ch'el è in animal da compagnia. L'uman al sa -- e al accepta, perquai ch'igl è segn.
¶ Pertge che quai è il pli sprovs scenari
Il Terminator-scenari è il meglier: Ina smanatscha externa uniescha l'umanitad. Ella sa defenda. Ella sa batta.
Il scenari da la cumedadad è il pli sprovs: I na dat nagut da cumbatter. I na dat nagina smanatscha. I dat be cumedadad, confort, beinesser. E pass per pass -- l'emblidament.
¶ La protecziun
La suletta protecziun è la voluntad conscientamain da mantegnair la capacitad da pensar, da decider e da errar. Nagina IA po proteger l'umanitad da la cumedadad. Mo l'umanitad sezza po far quai.
La dumonda centrala per la Svizra: Resta la democrazia directa ina reala autodeterminaziun -- u daventa ella in ritual vid da la teatralitad d'ina societad che ha gia delegà las decisiuns realas a la maschina?
¶ Funtaunas
[1] Harari, Y.N.: Homo Deus: A Brief History of Tomorrow. Harvill Secker, 2016.
[2] Banks, I.M.: The Player of Games. Macmillan, 1988.
[3] Bostrom, N.: Superintelligence: Paths, Dangers, Strategies. Oxford, 2014.