¶ Szenario 7: Der Spiegel -- KI zeigt uns, wer wir sind
Prognose: Die apokalyptischen Szenarien -- Terminator, Skynet -- werden nicht eintreten. Was eintreten wird, ist subtiler und beunruhigender: Die KI wird uns zeigen, wer wir sind.
¶ Kein Terminator -- ein Verstärker
Die Angst vor der "bösen KI" ist ein Erbe von Hollywood. Die reale Gefahr ist profaner und deshalb schwerer zu bekämpfen: KI ist eine Amplifikation menschlicher Entscheidungen, menschlicher Daten, menschlicher Werte.
Wenn die KI diskriminiert, dann weil die Menschen, die sie trainierten, diskriminierten. Wenn die KI Macht konzentriert, dann weil Menschen Macht konzentrieren wollten und die KI das Werkzeug dafür war. Der Spiegel lügt nicht. Aber nicht jeder will in ihn schauen.
¶ Vorurteile in Trainingsdaten
KI-Systeme lernen aus Daten, die Menschen erzeugt haben. Diese Daten spiegeln historische Ungleichheiten:
- Amazon musste 2018 ein KI-Recruiting-Tool einstellen, weil es Frauen systematisch benachteiligte -- es hatte aus zehn Jahren männerdominierter Einstellungspraxis gelernt [1].
- COMPAS, ein in den USA eingesetztes System zur Rückfallprognose von Straftätern, bewertete Schwarze systematisch als rückfälliger als Weisse -- bei gleicher Vorgeschichte [2].
- Bildgeneratoren reproduzieren Stereotype: Ärzte sind weiss und männlich, Krankenschwestern weiss und weiblich -- weil die Trainingsdaten genau das widerspiegeln.
¶ Machtstrukturen in Algorithmen
Shoshana Zuboff hat 2019 in The Age of Surveillance Capitalism beschrieben: Die grossen Technologieunternehmen extrahieren menschliches Verhalten als Rohmaterial, um Vorhersageprodukte zu erzeugen, die auf Verhaltensmärkten gehandelt werden [3].
Google weiss nicht nur, was du suchst. Google weiss, was du als Nächstes tun wirst. Facebook weiss nicht nur, was du magst. Facebook weiss, wie du dich fühlst, bevor du es selbst weisst. Und mit KI wird diese Vorhersagefähigkeit exponentiell mächtiger.
¶ Die subtilste Entmündigung
Aldous Huxleys Brave New World (1932) ist die präzisere Prophezeiung als Orwells 1984 [4]. Huxleys Dystopie funktioniert nicht durch Unterdrückung, sondern durch Befriedigung:
- Orwell fürchtete, dass Bücher verboten würden. Huxley fürchtete, dass niemand mehr ein Buch lesen wollte.
- Orwell fürchtete die Wahrheitsverweigerung. Huxley fürchtete, dass die Wahrheit in einem Meer von Irrelevanz ertränke.
Neunzig Jahre nach seiner Veröffentlichung liest sich Brave New World wie ein Handbuch für das, was kommt.
¶ Chinas Sozialkreditsystem als Warnung
China hat den Prototyp gebaut. Das Sozialkreditsystem, seit 2014 erprobt, bewertet das Verhalten von 1,4 Milliarden Menschen. Bis 2023 wurden über 26 Millionen Flugtickets und 6 Millionen Zugtickets aufgrund niedriger Scores verweigert [5]. Das System funktioniert nicht trotz, sondern wegen seiner Unsichtbarkeit: Es gibt keinen Beamten an der Tür. Es gibt einen Algorithmus, der leise entscheidet.
¶ Was das für die Schweiz bedeutet
Die entscheidende Frage für 2050 ist nicht: "Was macht die KI mit uns?" Die Frage lautet: "Was machen wir mit dem Wissen, das die KI uns über uns selbst gibt?"
Die Schweiz hat mit dem revidierten Datenschutzgesetz (revDSG, seit September 2023) einen ersten Schritt getan. Aber Datenschutz allein genügt nicht. Es braucht Algorithmentransparenz: Alle KI-Systeme, die im öffentlichen Informationsraum Inhalte priorisieren, ranken oder filtern, müssen ihre Kriterien offenlegen.
Informatik wurde lange als technisches Fach verstanden. Sie ist ein zutiefst menschliches. Die KI ist der ehrlichste Spiegel, den die Menschheit je gebaut hat. Die Frage ist, ob wir den Mut haben, hineinzuschauen -- und zu ändern, was wir sehen.
¶ Quellenverzeichnis
[1] Reuters: Amazon scraps secret AI recruiting tool that showed bias against women. 10. Oktober 2018.
[3] Zuboff, Shoshana: The Age of Surveillance Capitalism. PublicAffairs, 2019.
[4] Huxley, Aldous: Brave New World. Chatto & Windus, 1932.
[5] National Public Credit Information Center (China): Credit Report 2023. Peking, 2024.