Prognose: Die apokalyptischen Szenarien -- Terminator, Skynet -- werden nicht eintreten. Was eintreten wird, ist subtiler und beunruhigender: Die KI wird uns zeigen, wer wir sind.
Die Angst vor der "bösen KI" ist ein Erbe von Hollywood. Die reale Gefahr ist profaner und deshalb schwerer zu bekämpfen: KI ist eine Amplifikation menschlicher Entscheidungen, menschlicher Daten, menschlicher Werte.
Wenn die KI diskriminiert, dann weil die Menschen, die sie trainierten, diskriminierten. Wenn die KI Macht konzentriert, dann weil Menschen Macht konzentrieren wollten und die KI das Werkzeug dafür war. Der Spiegel lügt nicht. Aber nicht jeder will in ihn schauen.
KI-Systeme lernen aus Daten, die Menschen erzeugt haben. Diese Daten spiegeln historische Ungleichheiten:
Shoshana Zuboff hat 2019 in The Age of Surveillance Capitalism beschrieben: Die grossen Technologieunternehmen extrahieren menschliches Verhalten als Rohmaterial, um Vorhersageprodukte zu erzeugen, die auf Verhaltensmärkten gehandelt werden [3].
Google weiss nicht nur, was du suchst. Google weiss, was du als Nächstes tun wirst. Facebook weiss nicht nur, was du magst. Facebook weiss, wie du dich fühlst, bevor du es selbst weisst. Und mit KI wird diese Vorhersagefähigkeit exponentiell mächtiger.
Aldous Huxleys Brave New World (1932) ist die präzisere Prophezeiung als Orwells 1984 [4]. Huxleys Dystopie funktioniert nicht durch Unterdrückung, sondern durch Befriedigung:
Neunzig Jahre nach seiner Veröffentlichung liest sich Brave New World wie ein Handbuch für das, was kommt.
China hat den Prototyp gebaut. Das Sozialkreditsystem, seit 2014 erprobt, bewertet das Verhalten von 1,4 Milliarden Menschen. Bis 2023 wurden über 26 Millionen Flugtickets und 6 Millionen Zugtickets aufgrund niedriger Scores verweigert [5]. Das System funktioniert nicht trotz, sondern wegen seiner Unsichtbarkeit: Es gibt keinen Beamten an der Tür. Es gibt einen Algorithmus, der leise entscheidet.
Die entscheidende Frage für 2050 ist nicht: "Was macht die KI mit uns?" Die Frage lautet: "Was machen wir mit dem Wissen, das die KI uns über uns selbst gibt?"
Die Schweiz hat mit dem revidierten Datenschutzgesetz (revDSG, seit September 2023) einen ersten Schritt getan. Aber Datenschutz allein genügt nicht. Es braucht Algorithmentransparenz: Alle KI-Systeme, die im öffentlichen Informationsraum Inhalte priorisieren, ranken oder filtern, müssen ihre Kriterien offenlegen.
Informatik wurde lange als technisches Fach verstanden. Sie ist ein zutiefst menschliches. Die KI ist der ehrlichste Spiegel, den die Menschheit je gebaut hat. Die Frage ist, ob wir den Mut haben, hineinzuschauen -- und zu ändern, was wir sehen.
[1] Reuters: Amazon scraps secret AI recruiting tool that showed bias against women. 10. Oktober 2018.
[2] Angwin, Julia et al.: Machine Bias: There's software used across the country to predict future criminals. And it's biased against blacks. ProPublica, 23. Mai 2016.
[3] Zuboff, Shoshana: The Age of Surveillance Capitalism. PublicAffairs, 2019.
[4] Huxley, Aldous: Brave New World. Chatto & Windus, 1932.
[5] National Public Credit Information Center (China): Credit Report 2023. Peking, 2024.