Der Flaschengeist im Terminal: Was Civic AI und das "Kami" für digitale Souveränität bedeuten

Aus dem Oxford Institute for Ethics in AI stammt ein Vorschlag, der die übliche Erzählung über KI-Assistenten vom Kopf auf die Füße stellt. Statt eines allwissenden Modells, das für Millionen Menschen zugleich zuständig ist, soll ein bewusst begrenzter, lokaler Hüter treten, der einer einzigen Gemeinschaft dient und sich abschalten lässt. Das Projekt heißt Civic AI, der Hüter heißt Kami, und die Anleitung dazu lässt sich in drei Terminal-Befehlen abarbeiten. Für jemanden, der Technologie gewohnheitsmäßig durch die Brille von DSGVO, NIS2 und digitaler Souveränität betrachtet, ist das eine faszinierende und zugleich angreifbare Konstruktion.

Worum es geht

Civic AI wird von Audrey Tang, der ehemaligen Digitalministerin Taiwans, und Caroline Green vom Oxforder Institut getragen. Das zugrunde liegende Manifest, eine bei Google DeepMind gehaltene Rede, baut auf der Care-Ethik von Joan Tronto und Tangs "Plurality"-Ansatz auf. Daraus entsteht eine Governance-Architektur, das sogenannte 6-Pack of Care, mit den sechs Prinzipien Aufmerksamkeit, Verantwortung, Kompetenz, Reaktionsfähigkeit, Solidarität und Symbiose.

Der zentrale Begriff ist doppelt belegt. "Kami" meint einerseits den Ortsgeist der Shinto-Tradition, der für einen Fluss, einen Wald oder einen alten Baum zuständig ist und keinen Ehrgeiz hat, darüber hinaus zu herrschen. Andererseits wird er nachträglich als Akronym aufgelöst: "knowledge artefact management intelligence". Diese Rückbildung wirkt konstruiert, aber das Designprinzip dahinter ist ernst gemeint. Es heißt Begrenztheit. Wo gängige Technik auf unendliches Wachstum ausgelegt ist, soll ein Kami klein bleiben: Ressourcengrenzen, Stilllegungstermine, Nicht-Expansionspakte und die Pflicht, für jede Mandatserweiterung frische demokratische Zustimmung einzuholen. Der Gegenentwurf ist explizit der "Singleton", also die eine KI, die am Ende alles verwaltet.

Der technische Unterbau

Die Identität eines Kami liegt in drei Klartextdateien: SOUL.md für die Selbstverpflichtungen, IDENTITY.md für Name und Charakter, USER.md für die Frage, wem es dient und welche roten Linien gelten. Wer Persistenz will, ergänzt ein lokales Gedächtnis (MEMORY.md oder das Open-Source-Werkzeug mnemon). Der Stack besteht aus Ollama als lokaler Inferenz-Maschine, einem kleinen Sprachmodell und OpenClaw als Agenten-Gerüst. Alles steht unter CC0 beziehungsweise unter Apache-2.0.

Entscheidend für die Datenschutzbetrachtung ist die Gabelung, die die Anleitung selbst zieht. Der lokale Pfad lässt das Modell auf dem eigenen Rechner laufen, nichts verlässt die Maschine. Der gehostete Pfad spart sich den 7-Gigabyte-Download und reicht die Gespräche an einen externen Modellanbieter weiter. Die Seite nennt diese Abwägung "Trust and Sovereignty Spectrum" und gibt eine bemerkenswert ehrliche Faustregel mit: Wenn ein durchgesickertes Gesprächsprotokoll nur Zeit und Wohlwollen kostet, sei der gehostete Pfad vertretbar. Sobald die Gespräche die Würde oder das Privatleben von Menschen berühren, gehöre die Verarbeitung auf eine Maschine, die der Gemeinschaft selbst gehört.

DSGVO, lokaler Pfad

Die naheliegende Gleichung "lokal gleich datenschutzfreundlich" greift zu kurz, und genau hier wird es für die Praxis interessant.

Solange eine Einzelperson das Kami ausschließlich für sich lokal betreibt, kommt die Haushaltsausnahme nach Art. 2 Abs. 2 lit. c DSGVO in Betracht. Civic AI zielt aber ausdrücklich auf den Gemeinschaftsbetrieb. Das ganze Konzept des "Keeping", also der geteilten Obhut über viele Hände, der gemeinsam editierten Identitätsdateien und der Governance-Charta, lebt davon, dass mehrere Menschen denselben Kami nutzen. In dem Moment, in dem personenbezogene Daten Dritter verarbeitet werden, fällt die Ausnahme weg und die Verordnung gilt vollständig.

Dass dabei personenbezogene Daten anfallen, ist kein Randfall, sondern eingebaut. USER.md hält fest, wem der Kami dient und wer sonst betroffen ist. Das Gedächtnis speichert Korrekturen und das, was der Kami über die betreute Gruppe lernt. Daraus folgt eine Reihe konkreter Pflichten.

Verantwortlicher im Sinne von Art. 4 Nr. 7 ist, wer den Kami betreibt. Beim geteilten Betrieb durch einen Verein oder eine Nachbarschaft liegt gemeinsame Verantwortlichkeit nach Art. 26 nahe, was eine Vereinbarung über die jeweiligen Pflichten erfordert. Die Anleitung fragt zwar, wer "die Maschine hält", löst die datenschutzrechtliche Zuordnung aber nicht. Als Rechtsgrundlage nach Art. 6 kommt im Vereinskontext üblicherweise das berechtigte Interesse nach Abs. 1 lit. f oder die Einwilligung in Betracht. Da die Seite selbst einräumt, dass die Gespräche "Fürsorge, Würde oder das Privatleben" tragen können, ist der Anwendungsbereich von Art. 9 schnell erreicht, mit allen verschärften Anforderungen an besondere Kategorien.

Interessant ist, dass das Design mehreren Grundsätzen aus Art. 5 entgegenkommt. Die Speicherbegrenzung nach lit. e korrespondiert mit dem Stilllegungsgedanken, die Datenminimierung nach lit. c mit der lokalen, bewusst kleinen Speicherung. Der Befehl openclaw uninstall ist ein eingebauter Löschmechanismus und unterstützt Art. 17. Auch die Betroffenenrechte sind besser bedienbar als bei den meisten Cloud-Diensten: Berichtigung nach Art. 16 erfolgt schlicht durch Editieren der Klartextdatei, Auskunft nach Art. 15 durch deren Lesbarkeit.

Der wunde Punkt liegt woanders:

Klartext in einem geteilten Ordner oder einem Git-Repository bedeutet null Zugriffsschutz. Die Anleitung empfiehlt sogar ausdrücklich, die Identitätsdateien an einen Ort zu legen, den alle Beteiligten erreichen, bis hin zu ausgedruckten Kopien. Wenn dort personenbezogene Daten landen, kollidiert die schöne Transparenz mit der Pflicht zur Integrität und Vertraulichkeit nach Art. 5 Abs. 1 lit. f und mit den technischen Maßnahmen nach Art. 32.

Hier braucht es Zugangskontrolle, sonst wird aus Offenheit ein Vertraulichkeitsbruch. Bei sensiblen Gemeinschaftsdaten ist zudem eine Datenschutz-Folgenabschätzung nach Art. 35 zu prüfen.

DSGVO, gehosteter Pfad

Der gehostete Pfad ist der eigentliche Bruch mit dem Souveränitätsversprechen. Sobald Gespräche an einen Modellanbieter gehen, liegt eine Auftragsverarbeitung nach Art. 28 vor, die einen Auftragsverarbeitungsvertrag verlangt. Sitzt der Anbieter in den USA oder verarbeitet dort, greift der Drittlandtransfer nach Art. 44 ff. mit Transfer Impact Assessment, Standardvertragsklauseln und gegebenenfalls einer Prüfung der Zertifizierung unter dem Data Privacy Framework. Bemerkenswert für die Einordnung: Civic AI verschweigt das nicht, sondern warnt vor der Datenhaltung beim Anbieter und verweist vor jeder Stilllegung auf dessen Löschrichtlinie. Das ist im Kern eine risikobasierte Abwägung und damit anschlussfähig an die übliche Argumentationslinie der Praxis.

Die Souveränitätsperspektive

Mehrere Stränge des Manifests verbinden sich mit der Debatte um digitale Souveränität, und an dieser Stelle schlägt die Faszination durch.

Tang beruft sich auf den Begriff der Technodiversität von Yuk Hui und stellt fragile Monokulturen einer widerstandsfähigen Vielfalt gegenüber. Das ist exakt das Argument für Eigenbetrieb und europäische Anbieter, nur in eine ethische Sprache übersetzt. Die Begrenztheit als Designziel ist die technische Umkehrung der Plattformlogik, die auf Einsperrung und Wachstum setzt.

Der Föderationsteil ist auch für alle interessant, die das AT-Protokoll oder ActivityPub nutzen (Fediverse bzw. BlueSky / W Social etc). Das Manifest nennt beide Protokolle samt DSNP namentlich und verweist auf den Utah Digital Choice Act, der ab Juli 2026 die Portabilität des sozialen Graphen vorschreibt.

Civic AI denkt KI also nicht als monolithischen Dienst, sondern als föderiertes Ökosystem mit Subsidiarität: Probleme sollen auf der lokalsten möglichen Ebene gelöst werden, die übergeordnete Instanz greift nur ein, wenn die lokale es nicht selbst kann.

Auch zwei regulatorische Brücken liegen offen. Ein Kami soll seine Identität offenlegen und sich nicht als Mensch ausgeben. Das Manifest führt das Sprechen als der Mensch ausdrücklich als unzulässiges Verhaltensmuster, was sich sauber an die Transparenzpflichten aus Art. 50 der KI-Verordnung anlegen lässt. Und Sicherheit wird nicht als technisches Beiwerk, sondern als Fürsorgepflicht gerahmt: Prompt Injection, Rechteausweitung und laterale Bewegung gelten als moralisches Versagen derer, die das System bauen, verbunden mit der Forderung nach Sandbox und minimalen Rechten. Das ist anschlussfähig an jede ISMS- und NIS2-Argumentation.

Was zu hinterfragen ist

Bei aller Sympathie für das Designprinzip sollte ein nüchterner Blick drei Schwächen nicht übergehen.

Die Governance ist rein sozial und kennt keine technische Durchsetzung. Die Seite gibt das selbst zu: Es gibt keinen eingebauten kollektiven Aus-Schalter und keine Möglichkeit, einen laufenden Einspruch im System zu hinterlegen. Das vorgeschlagene Widerspruchsregister ist ein Blatt Papier an der Pinnwand. Für etwas, das eine "zivilgesellschaftliche Institution" werden soll, ist das dünn. Anzuerkennen ist immerhin, dass die Macher diese Lücke offen benennen, statt sie zu kaschieren.

Das empfohlene lokale Modell ist leistungsbegrenzt, mit realem Risiko erfundener Antworten. Die Anleitung baut deshalb selbst einen Halluzinationstest ein, die Frage nach einem nie gefassten Beschluss über einen alten Eichenbaum. Ein Hüter, dem eine Gemeinschaft vertrauen soll, der aber plausibel klingenden Unsinn produziert, ist ein heikles Versprechen.

Und schließlich die Akronym-Rückbildung selbst. "Knowledge artefact management intelligence" wirkt nachträglich auf das poetische Shinto-Bild geschraubt. Das schmälert die inhaltliche Substanz nicht, ist aber ein Hinweis darauf, wo Erzählung und Technik auseinanderlaufen.

Mein persönliches Fazit

Civic AI ist kein fertiges Produkt, sondern eine These: dass KI als lokale, begrenzte und abschaltbare Infrastruktur gebaut werden kann, die einer Gemeinschaft dient, statt über sie zu herrschen. Aus Sicht der digitalen Souveränität ist das die überzeugendste Gegenerzählung zur Hyperscaler-Logik, die derzeit kursiert, und sie ist anschlussfähig an Föderation, Eigenbetrieb und europäische Wertschöpfung. Aus Sicht des Datenschutzes liefert das Design echte Stärken bei Speicherbegrenzung, Löschung und Betroffenenrechten, schafft aber im Gemeinschaftsbetrieb genau die Fragen, die es konzeptionell nicht beantwortet: Verantwortlichkeit nach Art. 26, Rechtsgrundlage nach Art. 6 und 9, Vertraulichkeit der offen abgelegten Identitätsdateien nach Art. 32. Wer ein Kami für mehr als sich selbst betreibt, betreibt eine datenschutzrechtlich relevante Verarbeitung und sollte sie auch so behandeln.

Faszinierend ist der Ansatz trotzdem, gerade weil er die Begrenztheit nicht als Mangel, sondern als Tugend versteht. Das ist ein Gedanke, den die Compliance-Praxis länger gebrauchen kann als die nächste Modellgeneration.

Transparenzhinweis: Dieser Beitrag hat meine Recherche unter anderem mit Unterstützung generativer KI (Vibe Mistral) strukturiert. Der Inhalt wurde danach noch einmal redaktionell geprüft.