Künstliche Intelligenz und autoritäre Regime
.. warum Open Source und ethische Grundsätze unverzichtbar sind
Die aktuelle Auseinandersetzung zwischen dem US-Verteidigungsministerium und dem KI-Unternehmen Anthropic wirft grundsätzliche Fragen auf: Wie weit darf die Zusammenarbeit zwischen Technologieunternehmen und staatlichen Akteuren gehen? Und welche Rolle spielen ethische Grenzen, wenn es um den Einsatz von KI in Überwachung und autonomen Waffensystemen geht?
Die Krise der KI in autoritären Systemen
Das Pentagon hat Anthropic ultimativ aufgefordert, seine KI-Modelle für „alle aus Sicht des Pentagons gesetzlich zulässigen Anwendungen“ freizugeben, inklusive autonomer Waffensysteme und Massenüberwachung. Anthropic, das bisher als einer der wenigen Akteure in den USA klare rote Linien gezogen hat, weigert sich. Die Begründung: Ohne klare gesetzliche Vorgaben könnte die Technologie missbraucht werden, um autoritäre Praktiken zu verstärken.
Tatsächlich gibt es in den USA kaum Gesetze, die den Einsatz von KI im militärischen Bereich und bei der Überwachung regeln.
Wo keine Regeln existieren, wird „gesetzlich zulässig“ schnell zur Ticket für fast jeden Zweck und der Weg für willkürlichen Missbrauch ist geebnet. Dies erleben wir gerade anhand vieler Beispiele.
Besonders brisant ist, dass andere Teile der US-Regierung bereits jetzt KI für die Überwachung sozialer Medien nutzen, beispielsweise zur gezielten Deportation von Migrant:innen aufgrund ihrer politischen Äußerungen. Anthropic warnt seit Langem davor, dass KI autoritäre Regime in die Lage versetzt, Repression ohne menschliche Skrupel durchzusetzen. Doch statt diese Bedenken ernst zu nehmen, wird der Konflikt als „woke AI“-Debatte framt: Wer Sicherheitsvorkehrungen fordert, gilt schnell als ideologisch.
Ethische Verantwortung vs. Profitinteressen
Auch Anthropic ist kein makelloser Protagonist: Das Unternehmen arbeitete bereits mit dem Militär zusammen und war an umstrittenen Operationen beteiligt. Dennoch zeigt der aktuelle Konflikt, wie schnell ethische Prinzipien unter Druck geraten, wenn es um Macht, Einfluss und lukrative Verträge geht. Während Anthropic sich noch weigert, geben andere Tech-Konzerne wie Google, OpenAI und xAI bereitwillig nach. Die Folge: Ein „Wettrüsten nach unten“, bei dem Sicherheitsstandards zugunsten von Profit und politischer Gunst aufgegeben werden.
Dass die anfallenden Datenmengen auf den Servern von Microsoft, Amazon und Google landen (etwa wenn der Hersteller Palantir für die US-Einwanderungsbehörde ICE Daten aufarbeitet), ist kaum mehr als eine Fußnote der Systemlogik. Die Infrastruktur steht bereit, solange die kommerziellen Rahmenbedingungen stimmen.
Doch der Kern des Problems liegt woanders: Die Nutzung von KI durch autoritäre Regime lässt sich nie vollständig verhindern. Technologie ist global verfügbar, und wer sie kontrollieren will, muss sie selbst entwickeln oder erwerben. Dennoch gibt es einen entscheidenden Unterschied: Unternehmen, die europäische Grundrechtsprinzipien ignorieren, sollten in nicht aktiv unterstützt werden. Wer mit Akteuren kooperiert, die Überwachung und autonome Waffen als „gesetzlich zulässig“ betrachten, macht sich mitschuldig an der Erosion demokratischer Werte.
Open Source als Gegenmodell
Hier kommt Open Source ins Spiel. Offene, transparente KI-Systeme ermöglichen es der Zivilgesellschaft, der Wissenschaft und unabhängigen Entwickler:innen, Technologie demokratisch zu gestalten und zu kontrollieren. Während geschlossene Systeme wie Claude oder GPT-5 von wenigen Unternehmen kontrolliert werden, bietet Open Source die Chance, KI im Einklang mit Grundrechten zu entwickeln. Projekte wie Mistral AI oder Hugging Face zeigen, dass leistungsfähige KI auch ohne Abhängigkeit von US-Big Tech oder autoritären Regimen möglich ist.
Open Source bedeutet nicht nur technische Souveränität, sondern auch die Möglichkeit, ethische Standards kollektiv durchzusetzen.
Statt auf die „Gnade“ von Konzernen zu vertrauen, die sich jederzeit politischen oder wirtschaftlichen Druck beugen, können offene Systeme von der Gemeinschaft überwacht und weiterentwickelt werden.
Gerade in Europa, wo Datenschutz und Grundrechte hoch gehalten werden, ist dies ein entscheidender Vorteil.
Es braucht klare Regeln und mutige Akteure
Der aktuelle Konflikt zwischen Anthropic und dem Pentagon ist ein weiterer Weckruf. Er zeigt, dass Selbstregulierung der Tech-Industrie nicht ausreicht. Es braucht verbindliche Gesetze, die autonome Waffen und Massenüberwachung ächten. Und es braucht Unternehmen, die sich diesen Prinzipien verpflichten. Gleichzeitig muss Europa seine eigene, wertebasierte KI-Infrastruktur stärken. Open Source ist dabei kein Allheilmittel, kann aber ein zentraler Baustein für eine Technologie sein, die dem Gemeinwohl dient.
Die Frage ist nicht, ob KI in falsche Hände gerät. Dies ist schon längst der Fall. Vielmehr geht es um die Frage ob wir diejenigen unterstützen, die dies bewusst in Kauf nehmen. Die Antwort darauf sollte klar sein.
