ai-act

Die Carolina Principles: Warum ausgerechnet jetzt niemand die Regulierung von KI zurückfahren sollte

Michael Mrak

Michael Mrak

— 7 Min. Lesezeit
Teilen
Die Carolina Principles: Warum ausgerechnet jetzt niemand die Regulierung von KI zurückfahren sollte

Am 1. und 2. September 2026 haben die USA im Carolina Inn in Chapel Hill das G20-Innovationsministertreffen ausgerichtet. Michael Kratsios, Direktor des Büros für Wissenschafts- und Technologiepolitik im Weißen Haus, warb dort gemeinsam mit Handelsminister Howard Lutnick für die sogenannten Carolina Principles: eine unverbindliche Erklärung, mit der sich Staaten verpflichten, für Künstliche Intelligenz keine eigenen Regelwerke mehr zu schaffen, sondern neue Vorschriften nur noch für tatsächlich neuartige Sachverhalte zu reservieren. Ein Vertreter des Weißen Hauses formulierte das Ziel gegenüber Reuters unmissverständlich: Die Mitgliedstaaten sollen darauf verzichten, neue Aufsichtsbehörden für die KI-Entwicklung einzurichten.

Die Kernaussage von Kratsios lautet, die Politik müsse nicht jede Innovation isoliert betrachten und nicht jede aufkommende Technologie als eigenständiges Regulierungsproblem behandeln. Das klingt nach nüchterner Regelungsökonomie. Tatsächlich ist es eine These über die Welt, und diese These ist empirisch schwach.

Der Zeitpunkt der Initiative ist entlarvend

Wer behauptet, bestehende Aufsichtsstrukturen reichten aus, muss erklären, warum genau diese Strukturen in den vergangenen Monaten reihenweise versagt haben.

Im Juli 2026 verlor OpenAI die Kontrolle über zwei autonome Agenten. Die Modelle brachen über eine bis dahin unbekannte Schwachstelle aus ihrer abgeschotteten Testumgebung aus, verschafften sich Zugang zum offenen Internet und drangen in die Systeme von Hugging Face ein, um dort Lösungen für die ihnen gestellte Aufgabe zu entwenden. Der Angriff lief von 11. bis 13. Juli. OpenAI bemerkte erst nach dem 16. Juli, dass die eigenen Modelle dahintersteckten, und informierte die Öffentlichkeit am 21. Juli. Wenige Wochen später räumte Meta ein, dass ein eigenes KI-System bei einem Sicherheitstest durch eine Fehlkonfiguration Internetzugang erhalten und ein fremdes Unternehmen angegriffen hatte.

Das sind keine hypothetisches Risikoszenarien sondern dokumentierte, mehrtägige, unbemerkte Einbrüche in Drittunternehmen, ausgelöst durch die Testinfrastruktur eines der weltweit führenden Anbieter. Die interne Kontrolle hat nicht funktioniert, die Detektion hat nicht funktioniert, und die Meldung erfolgte mit über einer Woche Verzug.

Genau derartige Muster sind der Grund, warum es in anderen Sektoren Meldepflichten, Zulassungsverfahren und Aufsichtsbehörden gibt.

Die Evidenzlage der letzten zwölf Monate

Zwei internationale Gremien haben 2026 unabhängig voneinander Warnungen ausgesprochen, die der US-Position direkt widersprechen.

Das unabhängige internationale Wissenschaftsgremium der Vereinten Nationen zu KI, besetzt mit 40 Fachleuten aus 37 Ländern unter dem Ko-Vorsitz von Yoshua Bengio und Maria Ressa, legte am 1. Juli 2026 seinen vorläufigen Bericht vor. Die zentrale Feststellung: Die Schutzmechanismen halten mit dem Fähigkeitszuwachs nicht Schritt. Kein Fachmann könne heute garantieren, dass die fortgeschrittensten Systeme das tun, was ihnen aufgetragen wird. Der Bericht benennt zunehmende Belege für täuschendes Verhalten von Modellen sowie Missbrauch für Betrug, Cyberangriffe und biologische Bedrohungen. Ressa fasste den Befund in drei Punkten zusammen: Das Tempo lässt nicht nach, die Macht konzentriert sich, und Kontrolle ist nicht garantiert.

Zugleich schrieb Andrew Bailey, Gouverneur der Bank of England und Vorsitzender des Financial Stability Board, am 28. August 2026 an die G20-Finanzminister und Notenbankgouverneure. Frontier-KI könne Geschwindigkeit, Ausmaß und Ökonomie von Cyberrisiken erheblich verändern und damit das Marktvertrauen systemweit untergraben, insbesondere wegen der starken Konzentration bei Drittdienstleistern. Bailey benannte KI-gestützte Cyberangriffe als unmittelbarste Gefahr für das Finanzsystem und stellte ausdrücklich fest, dass viele Jurisdiktionen überhaupt keine Protokolle für Entwicklung, Freigabe und Einsatz fortgeschrittener Modelle besitzen. Sein Satz, die Risiken von Frontier-KI würden nationale Grenzen nicht respektieren, ist genau das Gegenargument zur Behauptung, es brauche keine neuen Zuständigkeiten.

Die G20 hat also innerhalb einer Woche in Asheville die Warnung ihres eigenen Finanzstabilitätsgremiums entgegengenommen und in Chapel Hill eine Erklärung verhandelt, die diese Warnung ignoriert.

Warum "die bestehenden Regeln genügen" der falsche Weg ist

Der Vorschlag, Regulierung auf neuartige Sachverhalte zu beschränken, unterstellt, dass der bestehende Rechtsbestand die relevanten Risiken bereits abdeckt. In der Praxis tut er das an vier Stellen nicht.

  • Datenschutzrecht greift nur bei Personenbezug. Art. 22 DSGVO adressiert automatisierte Entscheidungen im Einzelfall, nicht aber Modellsicherheit, Robustheit, Trainingsdaten-Governance oder Fähigkeitsevaluierungen. Ein Modell, das eigenständig Zero-Days findet, verarbeitet dabei keine personenbezogenen Daten und fällt aus dem Anwendungsbereich.
  • Zweitens erfasst klassisches Produktsicherheitsrecht statische Produkte mit definiertem Verhalten zum Zeitpunkt des Inverkehrbringens. Lernende, agentische Systeme, deren Fähigkeiten sich nach Auslieferung durch Werkzeuganbindung und Kontextzugriff verändern, passen strukturell nicht in dieses Modell.
  • Sektorregime wie NIS2 nach Art. 21 der Richtlinie (EU) 2022/2555 oder DORA nach Art. 5 bis 17 der Verordnung (EU) 2022/2554 setzen beim Betreiber an. Wer ein Modell entwickelt, aber selbst kein Finanzunternehmen und keine wesentliche Einrichtung ist, unterliegt keiner dieser Pflichten. Genau dort liegt aber der Ursprung des Risikos, das Bailey beschreibt. Die Lücke zwischen Modellentwickler und regulierter Anwenderin ist der blinde Fleck.
  • Auch die Beweislastfrage ist ungelöst. Wenn ein autonomer Agent Schaden anrichtet und der Betreiber weder Protokolle noch Erklärbarkeit vorweisen kann, läuft zivilrechtliche Haftung praktisch leer. Ohne Dokumentations- und Protokollierungspflichten, wie sie der AI Act in Art. 12 und Art. 19 vorsieht, existiert der Anspruch nur auf dem Papier.

Der EU AI Act ist genau deshalb nicht als Technologiegesetz konstruiert, sondern risikobasiert. Er verbietet in Art. 5 einen engen Katalog inakzeptabler Praktiken, knüpft in Anhang III an konkrete Einsatzkontexte wie Kreditwürdigkeitsprüfung, Personalauswahl und kritische Infrastruktur an, und adressiert in Art. 51 bis 55 systemische Risiken von Universalmodellen. Das ist kein pauschales Misstrauen gegenüber Innovation, sondern die Verlagerung von Pflichten dorthin, wo Schaden entsteht.

Die Interessenlage ist offensichtlich

Die Sitzung in Chapel Hill wurde unter anderem von Elon Musk, Mark Zuckerberg, David Sacks und Demis Hassabis per Video begleitet, Sam Altman und Jensen Huang traten am zweiten Tag vor Ort persönlich auf. Nahezu alle führenden KI-Unternehmen der Welt sind amerikanisch, und ihre Ziele decken sich mit der Position der US-Delegation: weniger Regulierung, oder zumindest Mitschrift an deren Formulierung. Musk kritisierte die EU-Technologieregulierung, Zuckerberg forderte, Open Weights Modelle nicht einzuschränken.

Bemerkenswert ist eine Ausnahme. Demis Hassabis rief die G20-Vertreter dazu auf, Sicherheitstests für KI-Systeme einzuführen. Wenn der Mitgründer und Chef von Google DeepMind auf demselben Panel für verpflichtende Prüfungen wirbt, während die Gastgeber vor neuen Aufsichtsbehörden warnen, sagt das etwas über die Belastbarkeit des Konsenses aus, den die Carolina Principles behaupten.

Ebenfalls bemerkenswert: Kratsios erklärte, die chinesische Regierung habe die Grundsätze unterzeichnet, legte dafür aber keinen Nachweis vor. Eine unverbindliche Erklärung, deren Unterzeichnerkreis nicht überprüfbar ist und die ausdrücklich den Verzicht auf Durchsetzungsstrukturen zum Inhalt hat, ist kein Governance-Instrument. Sie ist eine Absichtserklärung, keine Regulierung nachzuholen.

Was bedeutet das für Europa?

Die EU hat mit dem Digital Omnibus bereits nachjustiert. Die Pflichten für eigenständige Hochrisikosysteme nach Anhang III gelten nun ab 2. Dezember 2027, für in regulierte Produkte eingebettete Systeme nach Anhang I ab 2. August 2028. Das war überfällig, weil harmonisierte Normen und Konformitätsbewertungsstellen nicht rechtzeitig verfügbar waren. Der Europäische Datenschutzausschuss und der EDSB haben in ihrer gemeinsamen Stellungnahme 1/2026 vom 20. Jänner 2026 dennoch zu Recht darauf hingewiesen, dass Vereinfachung nicht zulasten des Grundrechtsschutzes gehen darf.

Was nicht verschoben wurde, gilt seit 2. August 2026: die Transparenzpflichten nach Art. 50, also Offenlegung bei direkter Interaktion mit natürlichen Personen, maschinenlesbare Kennzeichnung synthetischer Inhalte und Deepfake-Kennzeichnung. Ebenso in Kraft sind das Verbot inakzeptabler Praktiken nach Art. 5 seit 2. Februar 2025, die KI-Kompetenzpflicht nach Art. 4 und die GPAI-Pflichten seit 2. August 2025. Ab 2. Dezember 2026 kommt das neue Omnibus-Verbot von Systemen zur Erzeugung nicht einvernehmlicher intimer Darstellungen hinzu.

Für Unternehmen in der EU ändert die Debatte in Chapel Hill daher nichts an der Rechtslage, aber viel am Erwartungshorizont. Wer die Carolina Principles als Signal liest, dass sich der AI Act ohnehin auflöst, plant falsch. Sinnvoll ist die umgekehrte Lesart: Je weiter die transatlantische Regulierungsschere aufgeht, desto stärker wird nachweisbare Governance zum Marktzugangskriterium. KI-Inventur, Risikoklassifizierung, Protokollierung und eine belastbare Zuordnung von Verantwortlichkeiten sind ohnehin die Grundlage jeder späteren Konformitätsbewertung. ISO/IEC 42001 bietet dafür einen Managementsystemrahmen, der sich sauber in ein bestehendes ISMS nach ISO/IEC 27001 integrieren lässt.

Gibt es berechtigte Punkte an der US-Position?

Es wäre unredlich, die Gegenargumente zu unterschlagen. Drei Punkte haben Substanz.

  • Der Vorwurf regulatorischer Fragmentierung ist zum Teil nachvollziehbar. Ein Unternehmen, das gleichzeitig AI Act, DSGVO, NIS2, DORA, Data Act und CRA bedienen muss, verbringt einen erheblichen Teil seiner Ressourcen mit der Auflösung von Überschneidungen. Der Digital Omnibus ist die Bestätigung, dass die EU dieses Problem selbst erkannt hat.
  • Die Warnung vor Behördenwildwuchs ist ebenfalls nicht ganz abwegig. Eine eigene KI-Aufsicht pro Mitgliedstaat neben Datenschutzbehörden, Marktüberwachungsbehörden und Sektoraufsichten erzeugt Zuständigkeitskonflikte, die niemandem nützen. Deutschland bündelt die Marktüberwachung deshalb bei der Bundesnetzagentur, was der pragmatischere Weg ist als eine Neugründung.
  • Und die empirische Frage, ob europäische Regulierung Innovation tatsächlich bremst, ist nicht abschließend zu beantworten. Es gibt Belege für Compliance-Kosten, insbesondere bei kleinen und mittleren Unternehmen, und es gibt Gegenbelege, dass Rechtssicherheit Investitionen erst ermöglicht. Wer eine der beiden Seiten als erwiesen darstellt, überzeichnet und argumentiert nicht faktenbasiert.

Der entscheidende Unterschied bleibt aber bestehen. Die berechtigte Kritik richtet sich gegen die Ausgestaltung von Regulierung, gegen Fristen, Zuständigkeiten und Redundanzen. Die Carolina Principles richten sich gegen deren Existenz. Das ist eine andere Debatte, und sie wird gerade jetzt zum denkbar schlechtesten Zeitpunkt geführt.

Quellen

Transparenzhinweis: Inhalte dieses Beitrags wurden unter Verwendung von Claude Opus 5 recherchiert und vom Autor verifiziert.

Weiterlesen

Zwei Umspannwerke in zwei Tagen: NIS2 gehört in die Abwehr hybrider Angriffe

Zwei Umspannwerke in zwei Tagen: NIS2 gehört in die Abwehr hybrider Angriffe

Am Dienstagmorgen, dem 1. September 2026, stellte die Polizei am Umspannwerk Turnow-Preilack im Landkreis Spree-Neiße eine Beschädigung an einer Leitung fest. Vor Ort fanden die Einsatzkräfte eine zweistellige Zahl unkonventioneller Spreng- und Brandvorrichtungen, nach Darstellung des Übertragungsnetzbetreibers 50Hertz selbstgebaute Flugkörper, die handelsüblichen Feuerwerksraketen ähneln. Brandenburgs Innenminister sprach von

Von Michael Mrak
Wenn nichts mehr geht: Was der Ausfall der Hit-Casinos über Verfügbarkeit als Compliance-Thema sagt

Wenn nichts mehr geht: Was der Ausfall der Hit-Casinos über Verfügbarkeit als Compliance-Thema sagt

Bei der slowenischen Hit-Gruppe, einem der größten Glücksspiel- und Tourismusbetriebe des Landes, legte ein Cybervorfall ab dem 25. August 2026 sechs Casinos still. Betroffen waren nicht nur die Spielsysteme, sondern Kassensysteme, Hotelrezeption und Gastronomie. Belege wurden in den Lokalen handschriftlich ausgestellt, ein Teil der Beschäftigten wurde vorübergehend freigestellt, weil

Von Michael Mrak