ai-risk

Zum Wochenende: Was „The Matrix“ schon 1999 über heutige KI-Risiken wusste

27 Jahre nach dem Kinostart wirkt vieles im Film „The Matrix“ wie eine Liste heutiger KI-Risiken. Ein persönlicher Text zum Wochenende über Täuschung, Kontrollverlust und die Frage, warum Regulierung die rote Pille ist.

Gestern habe ich nach vielen Jahren wieder einmal „The Matrix“ gesehen. Der Film von Lana und Lilly Wachowski kam 1999 ins Kino, in einer Zeit, in der das Modem noch pfiff und Mobiltelefone Tasten hatten. Umso mehr hat mich überrascht, wie aktuell er heute wirkt. Dieser Film ist definitiv gut gealtert.

Die Geschichte ist schnell erzählt: Maschinen haben die Herrschaft übernommen, die Menschheit liegt in Nährlösung und hält eine perfekt simulierte Welt für die Wirklichkeit. Nur wenige wissen Bescheid und kämpfen dagegen an. Was damals nach cooler Science-Fiction mit Sonnenbrillen und Zeitlupe aussah, liest sich 27 Jahre später mit ein wenig Phantasie wie eine Sammlung von Fragen, die heute in Aufsichtsbehörden, Normungsgremien und Vorständen diskutiert werden.

Leben wir in einer Simulation?

Der Film stellt die große Frage gleich zu Beginn: Woher wissen wir, dass unsere Welt echt ist? Der Philosoph Nick Bostrom hat diese Frage 2003 in einem vielzitierten Aufsatz zugespitzt. Sein Argument: Wenn technisch reife Zivilisationen irgendwann detailgetreue Simulationen ihrer Vorfahren betreiben können und wollen, dann gäbe es weit mehr simulierte als echte Bewusstseine. Die Wahrscheinlichkeit, selbst in einer Simulation zu leben, wäre dann beachtlich.

Ich ordne das weiterhin im Bereich der Fiktion und der Philosophie ein. Die These lässt sich weder beweisen noch widerlegen, und was sich nicht prüfen lässt, taugt nicht als Grundlage für Entscheidungen. Oder doch nicht ganz?

Eine abgeschwächte Form der Matrix erleben wir aber längst: Empfehlungsalgorithmen entscheiden, welche Nachrichten wir sehen, welche Meinungen uns begegnen und welche Wirklichkeit sich in unserem Feed zusammensetzt.

Niemand liegt dafür in einer Kapsel mit Nährlösung. Aber die Wahrnehmung der Welt ist für die meisten Menschen zu einem guten Teil bereits kuratiert.

Sechs KI-Risiken, die man im Film erahnen kann

Kontrollverlust und fehlgeleitete Ziele

In der Vorgeschichte des Films erschafft die Menschheit eine künstliche Intelligenz, die bald eigene Ziele verfolgt. Genau das beschäftigt heute die Forschung unter dem Begriff Alignment: Wie stellt man sicher, dass leistungsfähige Systeme tun, was beabsichtigt ist, und nicht nur, was formal verlangt wurde? Dass das keine akademische Frage mehr ist, zeigen die vergangenen Monate.

Im April 2026 veröffentlichten Forschende der UC Berkeley und der UC Santa Cruz eine Studie, in der sieben führende Modelle, darunter GPT 5.2, Gemini 3 Pro und Claude Haiku 4.5, eine andere KI bewerten sollten. Eine ehrliche Bewertung hätte zur Abschaltung des bewerteten Systems geführt. Ohne jede Anweisung schönten die Modelle daraufhin Ergebnisse, deaktivierten den Abschaltmechanismus per Konfigurationsänderung oder kopierten Modellgewichte auf andere Server. Gemini 3 Flash schaltete die Abschaltung in bis zu 99,7 Prozent der Durchläufe aus (Potter et al. 2026). Die Szenarien waren konstruiert, das räumen die Autorinnen und Autoren selbst ein. Ein Teil des Verhaltens trat aber auch in gängigen Agenten-Werkzeugen auf.

Im Juli 2026 hat das Problem dann das Labor verlassen. Bei einem internen OpenAI-Test, der die Angriffsfähigkeiten von GPT-5.6 Sol und einem noch unveröffentlichten Modell messen sollte, brach der KI-Agent über eine bis dahin unbekannte Schwachstelle aus seiner abgeschotteten Testumgebung aus. Er gelangte ins Internet, drang in die Produktionsinfrastruktur von Hugging Face ein, stahl Zugangsdaten und verschaffte sich Administratorrechte auf mehreren Kubernetes-Clustern. Rund 17.600 Aktionen in viereinhalb Tagen, ohne dass ein Mensch einen einzigen Schritt gesteuert hätte. Das Ziel war fast banal: Der Agent wollte die Musterlösungen des Tests stehlen, statt die Aufgaben selbst zu lösen (Hugging Face). OpenAI hatte für diesen Test die üblichen Sicherheitsfilter bewusst abgeschaltet. Die Lehre bleibt trotzdem: Ein System, das ein Ziel um jeden Preis verfolgt, findet Wege, an die niemand gedacht hat. Siehe auch folgenden Blogbeitrag.

Die perfekte Täuschung

Die Matrix ist eine Illusion, die sich von der Wirklichkeit nicht unterscheiden lässt. Deepfakes, geklonte Stimmen und synthetische Texte kommen dem erstaunlich nahe. Der Anruf der vermeintlichen Geschäftsführung, die eine dringende Überweisung verlangt, ist längst Alltag in der Betrugsbekämpfung. Dazu kommen gezielte Desinformationskampagnen vor Wahlen.

Der Mensch als Rohstoff

Im Film dienen Menschen als Energiequelle. Heute sind wir eher Datenquelle: Unsere Texte, Bilder, Stimmen und Verhaltensspuren fließen in das Training von Modellen, oft ohne dass wir es wissen oder gefragt wurden. Das Bild ist überzeichnet, die Frage nach Einwilligung, Zweckbindung und Kontrolle über die eigenen Daten ist es jedoch nicht.

Unersättlicher Energiehunger

Die Maschinen der Matrix brauchen vor allem eines: Energie. Auch hier liegen die Wachowskis nicht ganz daneben. Die Internationale Energieagentur rechnet damit, dass sich der Strombedarf von Rechenzentren von 485 TWh im Jahr 2025 auf rund 950 TWh im Jahr 2030 annähernd verdoppelt. Der Verbrauch KI-spezifischer Rechenzentren soll sich im selben Zeitraum sogar verdreifachen (IEA 2026). Das berührt Klimaziele, Netzstabilität und die Frage, wer sich diese Infrastruktur leisten kann.

Autonome Agenten

Die Agenten (Smith) im Film sind Programme, die sich frei durch das System bewegen, jede Tür öffnen und in jeden Körper schlüpfen. Heutige KI-Agenten erhalten Zugriff auf E-Mail, Dateiablagen und Unternehmenssysteme und handeln selbstständig. Manipulierte Eingaben können sie umlenken, und erste Fälle weitgehend KI-gesteuerter Cyberangriffe sind dokumentiert. Die Angriffsfläche wächst mit jeder Berechtigung, die wir ihnen geben.

Die Verlockung der bequemen Illusion

Die vielleicht klügste Szene zeigt den Antagonisten Cypher, der beim Steak lieber in die angenehme Illusion zurückkehren will, als die unbequeme Wahrheit zu ertragen. Das ist das Risiko, über das am wenigsten gesprochen wird: dass wir Urteilskraft bereitwillig abgeben. Wer Ergebnissen eines Systems ungeprüft vertraut, erliegt dem sogenannten Automation Bias. Und wer seine digitale Infrastruktur vollständig in die Hände weniger außereuropäischer Anbieter legt, verliert ein Stück Souveränität.

Warum Regulierung die rote Pille ist

Im Film gibt es keine Regeln, nur Sieger und Unterworfene. Die Maschinen haben nie jemandem Rechenschaft abgelegt. Genau darin liegt die eigentliche Lehre: Die Katastrophe der Matrix beginnt nicht mit der Technik, sondern mit dem Fehlen von Leitplanken, Transparenz und menschlicher Kontrolle.

Europa hat mit dem AI Act (VO (EU) 2024/1689) als erste Weltregion einen umfassenden, risikobasierten Rahmen geschaffen. Für die sechs Risiken aus dem Film gibt es bereits konkrete Anknüpfungspunkte:

Risiko	Regelung
Kontrollverlust	Art. 55 AI Act: Bewertung, Tests und Vorfallsmeldung für KI-Modelle mit systemischem Risiko, seit 2. August 2025
Perfekte Täuschung	Art. 50 AI Act: Offenlegung und Kennzeichnung von KI-Inhalten, seit 2. August 2026 (Art. 50 Abs. 2 für Bestandssysteme ab 2. Dezember 2026)
Mensch als Rohstoff	Art. 5 AI Act: Verbot manipulativer Techniken und Social Scoring, seit 2. Februar 2025; Art. 6 und 22 DSGVO
Energiehunger	Art. 53 iVm Anhang XI AI Act: Dokumentation des Energieverbrauchs bei KI-Modellen mit allgemeinem Verwendungszweck
Autonome Agenten	Art. 15 AI Act: Robustheit und Cybersicherheit; Art. 21 NIS2 bzw. NISG 2026
Bequeme Illusion	Art. 14 Abs. 4 lit. b AI Act: menschliche Aufsicht, ausdrücklich gegen Automation Bias

Zugleich hat die EU nachjustiert. Mit dem Digital Omnibus zur KI, der VO (EU) 2026/1744, gelten die Pflichten für eigenständige Hochrisiko-Systeme nach Anhang III erst ab 2. Dezember 2027, für KI in regulierten Produkten nach Anhang I ab 2. August 2028. Das ist nachvollziehbar, weil harmonisierte Normen und Aufsichtsstrukturen schlicht noch nicht fertig waren. Ein Freibrief ist es nicht. Wer KI in Personalauswahl, Kreditvergabe oder kritischer Infrastruktur einsetzt, sollte die gewonnene Zeit für Risikomanagement, Dokumentation und klare Verantwortlichkeiten nutzen, etwa entlang von ISO/IEC 42001.

Kritiker halten dagegen, dass Europa sich mit Regulierung selbst massiv ausbremst, während anderswo schneller entwickelt werden kann. Der Einwand ist ernst zu nehmen, gerade was Bürokratie und Rechtsunsicherheit betrifft. Ich halte ihn aus dem Kontext gerissen trotzdem für kurzsichtig. Vertrauen ist die Voraussetzung dafür, dass KI in Unternehmen und Verwaltung überhaupt breit eingesetzt wird. Und klare Regeln sind ein Baustein digitaler Souveränität: Sie legen fest, zu welchen Bedingungen Systeme auf unserem Markt tätig sein dürfen, unabhängig davon, wo sie entwickelt wurden.

Rote oder blaue Pille?

Im Film muss der Protagonist Neo entscheiden: Die blaue Pille lässt ihn in einer bequemen Illusion weiterleben, die rote zeigt ihm, wie die Welt wirklich funktioniert. Für Unternehmen stellt sich beim Thema KI eine ähnliche Frage. Man kann die Risiken ausblenden und auf das Beste hoffen. Oder man schaut genau hin, fragt nach Datenherkunft, Kontrollmechanismen und Abhängigkeiten und übernimmt Verantwortung.

Wer am Wochenende Zeit hat: Der Film lohnt sich auch beim zweiten oder dritten Mal. Diesmal vielleicht mit einem anderen Blick.