Omnibus Gesetzesentwurf zu KI
Vereinfachung oder Risiko für Grundrechte?
Die EU-Kommission will mit dem „Digital Omnibus für Künstliche Intelligenz“ die Umsetzung des bereits in Kraft getretenen AI Acts vereinfachen. Weniger Bürokratie und mehr Innovation, so lautet das offizielle Ziel. Doch bei genauer Betrachtung droht der Entwurf, den Schutz der Bürger:innen und ihrer Grundrechte zu schwächen.
Weniger Kontrolle, mehr Spielraum für Unternehmen
Der Entwurf verschiebt Pflichten von Anbietern und Betreibern hin zur EU-Kommission und den Mitgliedstaaten. So wird etwa die Pflicht zur „AI Literacy“ (Schulung im Umgang mit KI) von den Unternehmen auf Behörden verlagert. Für Betroffene bedeutet das: weniger verbindliche Anforderungen an jene, die KI-Systeme entwickeln oder einsetzen und damit ein höheres Risiko für Fehlentscheidungen oder diskriminierende Systeme.
Ein gefährlicher Präzedenzfall bei sensiblen Daten
Besonders brisant ist die neue Bestimmung, wonach Anbieter und Betreiber aller KI-Systeme „ausnahmsweise“ sensible personenbezogene Daten (z. B. zu Gesundheit, Ethnie, Religion oder Sexualität) verarbeiten dürfen. Angeblich, um Verzerrungen (Bias) zu erkennen und zu korrigieren. Diese Öffnungsklausel stellt eine weitreichende Ausnahme von den bisherigen Datenschutzgrundsätzen dar. Selbst mit technischen Schutzmaßnahmen bleibt das Missbrauchspotenzial erheblich, insbesondere wenn die Grenze zwischen Trainingszweck und kommerzieller Nutzung verschwimmt.
Zentralisierung und Entmachtung nationaler Aufsicht
Die Aufsicht über KI-Systeme großer Plattformen und Suchmaschinen soll künftig direkt bei der EU-Kommission bzw. dem neuen „AI Office“ liegen. Das bedeutet weniger Nähe zu den Betroffenen und weniger Einfluss nationaler Datenschutz- und Aufsichtsbehörden. Für Bürger:innen wird es dadurch schwieriger, sich bei Problemen an eine greifbare, nationale Stelle zu wenden.
„Regulatory Sandboxes“ = Experimente am offenen System
Der aktuelle Entwurf erlaubt verstärktes Testen von Hochrisiko-KI-Systemen „unter realen Bedingungen“. Diese sogenannten „Regulatory Sandboxes“ sollen Innovation fördern, öffnen aber zugleich Tür und Tor für Experimente in sicherheitskritischen Bereichen, etwa Verkehr, Medizin oder Verwaltung, bevor die Systeme vollständig geprüft sind. No risk, no fun könnte man fast meinen.
Mein Fazit: Risiken steigen und Menschenrechte wanken
Was als Vereinfachung verkauft wird, schwächt zentrale Schutzmechanismen des AI Acts.
Die eigentliche Frage lautet für mich daher gar nicht mehr ob Europa KI fördern will, sondern welchen Preis es dafür zu zahlen bereit ist.
Wenn Pflichten verwässert, Aufsichten zentralisiert und Datenverarbeitungen ausgeweitet werden, entstehen neue Risiken: Diskriminierung, Intransparenz und Machtverschiebung hin zu großen Anbietern. Die Balance zwischen Innovation und Menschenrechten droht zu kippen.
Europa, das bislang als globaler Goldstandard und Benchmark in der Compliance galt, bewegt sich mit diesen Entwicklungen gefährlich nah an einen regulatorischen laissez-faire-Kurs heran.
