Zunächst kommt der Komfort. Und mit dem Komfort kommt die Entmündigung. Schleichend. Freiwillig.
GPS hat den Orientierungssinn ersetzt. Der Taschenrechner das Kopfrechnen. Google das Gedächtnis. Und ChatGPT das eigenständige Denken. Jede Bequemlichkeit kostet eine Fähigkeit. Das ist kein Kulturpessimismus. Es ist eine nüchterne Beobachtung.
Wer seit zehn Jahren mit Navi fährt, findet ohne Navi nicht mehr nach Hause. Wer jede Frage an eine KI delegiert, verlernt, eigene Gedanken zu Ende zu führen. Wir lagern kognitive Fähigkeiten aus, wie die Industrie ihre Produktion nach Asien ausgelagert hat. Es ist billiger. Es ist bequemer. Und es macht abhängig.
Die kognitive Auslagerung folgt einem Muster, das sich über Jahrzehnte erstreckt:
| Jahrzehnt | Technologie | Ausgelagerte Fähigkeit |
|---|---|---|
| 1970er | Taschenrechner | Kopfrechnen |
| 1990er | Navigationssysteme | Räumliche Orientierung |
| 2000er | Google / Wikipedia | Faktenwissen, Gedächtnis |
| 2010er | Smartphones | Planung, Zeitmanagement, Sozialkontakte |
| 2020er | ChatGPT, Claude | Schreiben, Analysieren, Argumentieren |
| 2030er | AGI-Assistenten | Entscheidungsfindung, Urteilsvermögen |
Jede Stufe wurde als Fortschritt gefeiert. Und jede Stufe hat den Raum, in dem der Mensch noch selbst denkt, ein Stück weiter verengt.
Die Auswirkungen sind messbar. Eine Studie der University College London zeigte, dass Londoner Taxifahrer, die jahrelang ohne Navi navigierten, einen signifikant grösseren Hippocampus aufwiesen -- die Gehirnregion, die für räumliche Orientierung zuständig ist. Bei GPS-Nutzern schrumpfte dieser Bereich messbar. [1]
Nicholas Carr argumentierte bereits 2010 in The Shallows, dass das Internet unsere Fähigkeit zu tiefem, konzentriertem Lesen zerstört. Nicht weil das Internet böse wäre, sondern weil das Gehirn sich an die oberflächliche, fragmentierte Informationsaufnahme anpasst. [2] Was Carr für Google beschrieb, gilt für generative KI in potenzierter Form: Wenn die Maschine nicht nur Informationen liefert, sondern gleich die Analyse, die Zusammenfassung und die Schlussfolgerung mitliefert, was bleibt dann noch für den menschlichen Geist?
Die Ironie ist bitter. Dieselbe Spezies, die das Feuer zähmte, das Rad erfand und die Relativitätstheorie formulierte, gibt freiwillig ihre geistigen Werkzeuge ab. Nicht unter Zwang. Unter Applaus. Jede neue App, jeder neue Assistent, jede neue Automatisierung wird gefeiert. Und jedes Mal schrumpft der Raum, in dem der Mensch noch selbst denkt.
Es ist, als würde man einem Muskel die Arbeit abnehmen und sich dann wundern, dass er verkümmert.
Die eigentliche Gefahr der Superintelligenz ist nicht der Terminator-Moment. Es ist das kollektive Alzheimer: eine Menschheit, die aufgehört hat, die Welt um sich herum zu verstehen, weil die KI schneller, tiefer und umfassender denkt als jeder Mensch.
Grosse Sprachmodelle bestehen aus Hunderten von Milliarden Parametern. Niemand -- kein Ingenieur, kein Forscher -- kann erklären, warum ein solches Modell auf eine bestimmte Frage eine bestimmte Antwort gibt. Die Forscher nennen das "Emergent Capabilities" -- Fähigkeiten, die bei einer bestimmten Modellgrösse plötzlich auftauchen, ohne dass sie programmiert wurden. [3]
Niemand hat diesen Modellen beigebracht, logische Schlüsse zu ziehen oder Gedichte zu schreiben. Sie tun es einfach. Ab einer gewissen Komplexität emergiert etwas, das wie Verständnis aussieht. Ob es Verständnis ist, weiss niemand.
Wir haben Maschinen gebaut, die wir nicht verstehen. Und wir bauen sie trotzdem weiter, weil sie funktionieren.
George Orwells 1984 beschreibt eine Gesellschaft totaler Überwachung durch Zwang. Doch Aldous Huxleys Brave New World von 1932 ist die präzisere Prophezeiung. Huxleys Dystopie funktioniert nicht durch Unterdrückung, sondern durch Befriedigung. Die Menschen werden nicht eingesperrt. Sie werden unterhalten. [4]
Orwell fürchtete, dass Bücher verboten würden. Huxley fürchtete, dass niemand mehr ein Buch lesen wollte. Orwell fürchtete die Wahrheitsverweigerung. Huxley fürchtete, dass die Wahrheit in einem Meer von Irrelevanz ertränke.
Neunzig Jahre nach seiner Veröffentlichung liest sich Brave New World wie ein Handbuch für das, was kommt.
Die Schweizer direkte Demokratie setzt mündige Bürger voraus. Bürger, die Abstimmungsvorlagen lesen, Argumente abwägen, eigenständig urteilen. Wenn diese Fähigkeiten erodieren -- nicht durch Zensur, sondern durch Bequemlichkeit --, verliert die direkte Demokratie ihr Fundament.
Die Frage ist nicht, ob KI-Assistenten nützlich sind. Die Frage ist, ob wir die Fähigkeit bewahren, ohne sie zu funktionieren. Denn eine Gesellschaft, die ohne ihre Maschinen nicht mehr denken kann, ist nicht frei. Sie ist abhängig. Und Abhängigkeit ist das Gegenteil von Demokratie.
[2] Carr, Nicholas: The Shallows: What the Internet Is Doing to Our Brains. W. W. Norton, 2010.
[4] Huxley, Aldous: Brave New World. Chatto & Windus, 1932. Orwell, George: Nineteen Eighty-Four. Secker & Warburg, 1949.