Praxisbericht: Zwei KI Modelle teilen sich die Arbeit

Wie ich lokale KI und Opus 5 in der Beratungspraxis kombiniere, ohne den Datenschutz zu strapazieren

Beratung in Compliance, Datenschutz und Informationssicherheit bedeutet, zeitweise mit fremden Daten zu arbeiten. Auditberichte, Verträge, Registerauszüge, Besprechungsprotokolle. Wer in dieser Arbeit Sprachmodelle einsetzt, steht vor einer Frage, die sich nicht wegargumentieren lässt: Was davon darf überhaupt das eigene Gerät verlassen?

Meine Lösung ist keine Entscheidung für oder gegen die Cloud. Sie ist eine Arbeitsteilung. Ein lokales Modell übernimmt alles, was mit Rohdaten zu tun hat. Ein starkes Cloudmodell übernimmt alles, was Urteilskraft verlangt. Der entscheidende Punkt liegt dazwischen, an der Stelle, an der ich definiere, was übergeben wird.

Die Trennlinie verläuft zwischen den Daten, nicht zwischen den Werkzeugen

Die verbreitete Diskussion lautet "lokal oder Cloud" und führt regelmäßig zu Unsicherheit. Wer sich rein lokal aufstellt, arbeitet (außer er verwendet Equipment um 10.000 Euro und mehr) mit spürbar schwächeren Modellen und verliert an Qualität. Wer alles in die Cloud gibt, verlagert eine Entscheidung über fremde Daten auf eine Vertragskonstruktion und hofft, dass sie hält.

Die Trennlinie, die ich stattdessen ziehe, verläuft entlang der Daten selbst. Personenbezogene und mandantenidentifizierende Inhalte werden lokal verarbeitet. Der abstrahierte Sachverhalt, also die eigentliche fachliche Frage, geht in die Cloud. Das ist für mich die praktische Umsetzung von Art. 5 Abs. 1 lit. c DSGVO und Art. 25 Abs. 1 DSGVO.

Die lokale Schicht: Ollama mit Qwen3.5-9B

Auf meinem Notebook läuft Ollama mit Qwen3.5-9B, einem dichten Modell unter Apache-2.0-Lizenz mit multimodaler Verarbeitung von Text und Bild. In der quantisierten Fassung belegt es rund sechs Gigabyte Arbeitsspeicher und arbeitet mit einem bewusst auf 32.000 Token begrenzten Kontextfenster. Das ist keine Spitzenleistung, aber es ist deutlich mehr, als für die Aufgaben nötig ist, die ich ihm gebe.

Lokal erledigt werden:

Vorverdichtung von Besprechungsprotokollen. Ein Transkript enthält unter Umständen Namen, Nebenbemerkungen und Aussagen Dritter, die keinen Anlass haben, irgendwo anders zu landen. Das lokale Modell zerlegt es in Themenblöcke, offene Punkte und verwertbare Kernaussagen. Was ich weiterverwende, ist der bereinigte Auszug.

Strukturierte Extraktion. Rohantworten aus Fragebögen, Zeilen aus einem Verarbeitungsverzeichnis, Bestandslisten. Das Modell überführt sie in ein festes Schema, das ich vorgebe. Diese Arbeit ist schematisch, wiederholbar und im Ergebnis prüfbar, also genau das, wofür ein kleines Modell taugt.

Erstsichtung und Rohübersetzung. Bei Kunden außerhalb des deutschen Sprachraums bekomme ich Unterlagen, die ich zunächst nur verstehen muss, bevor ich mit ihnen fachlich arbeite. Eine Rohfassung reicht dafür, und sie entsteht ohne Übermittlung.

Bilder und Scans. Fotos von Serverräumen, abfotografierte Flipcharts, eingescannte Nachweise. Die Beschreibungs- und Texterkennungsschicht liegt vollständig auf dem Gerät.

Klassifikation und Vorzuordnung. Welche Kundenantwort betrifft welche Fragestellung, welcher Absatz gehört zu welchem Themenbereich. Sortierarbeit, keine Bewertung.

Der Nebeneffekt ist die Verfügbarkeit. Das Setup funktioniert auch unterwegs, sogar ohne Internet und bei Kunden mit striktem Cloudverbot. So zeigt sich die digitale Souveränität bei mir wenig spektakulär. Es läuft einfach.

Die Cloudschicht: Opus 5

Alles, was Abwägung verlangt, geht derzeit bei mir an Opus 5. Auslegung einer Normstelle im konkreten Zusammenhang, Argumentationslinien für eine Stellungnahme, Aufbau eines Dokuments, Vergleich von Regelungsregimen, Unterstützung bei der Formulierung von Texten, die veröffentlicht oder an einen Kunden gehen. Hier zählt Qualität, und der Abstand zwischen einem lokalen Neun-Milliarden-Modell und einem Spitzenmodell ist an dieser Stelle so gewaltig, dass ihn keine Prompttechnik schließt.

Was Opus 5 dabei sieht, ist der Sachverhalt, nicht der Fall. Statt "Der Mitarbeiter M. der Firma X hat am 14. März das Notebook mit den Bewerbungsunterlagen verloren" lautet die Eingabe "Verlust eines dienstlichen Endgeräts mit unverschlüsseltem Bewerberdatenbestand, mittelständisches Produktionsunternehmen, Vorfall vor drei Tagen entdeckt". Die fachliche Frage ist identisch. Der Personenbezug ist es nicht.

Der Übergabepunkt

Der Übergang von lokal nach Cloud ist bei mir kein technischer Automatismus, sondern ein bewusster Schritt mit drei Prüfungen.

• Erstens: Reduktion auf den Sachverhalt. Namen, Firmenbezeichnungen, Standorte, Daten mit Wiedererkennungswert und Aktenzeichen fallen weg, sofern sie für die Frage nicht tragend sind. Meistens sind sie es nicht.
• Zweitens: ehrliche Einordnung des Ergebnisses. Was nach dieser Reduktion übrig bleibt, ist häufig pseudonymisiert und nicht anonym. Pseudonymisierte Daten bleiben jedoch personenbezogen, das ergibt sich aus Art. 4 Z 5 DSGVO im Zusammenhang mit ErwGr 26. Wer sich einredet, durch das Ersetzen von Namen den Anwendungsbereich der Verordnung verlassen zu haben, macht sich etwas vor. Erst wenn nach Reduktion und Aggregation kein Bezug zu einer bestimmbaren Person mehr herstellbar ist, greift die Verordnung nicht mehr.
• Drittens: Prüfung der Fallgruppe. Bleibt ein Personenbezug bestehen und ist er für die Frage unverzichtbar, dann bewegt sich die Nutzung im Rahmen der Auftragsverarbeitung nach Art. 28 DSGVO, mit allem, was dazugehört.

Der Nutzen der lokalen Schicht liegt genau darin, dass dieser dritte Fall selten wird. Nicht, weil er unzulässig wäre, sondern weil er Aufwand, Dokumentation und Restrisiko erzeugt, das ich mir sparen kann.

Einordnung im Managementsystem

Wer nach ISO 27001 zertifiziert ist oder es anstrebt, kann diese Aufteilung sauber abbilden. Die Cloudnutzung fällt unter die Lieferantenbeziehungen in A.5.19 bis A.5.23, die Übergaberegel selbst ist eine Regelung zur Informationsübertragung nach A.5.14 und eine Maßnahme gegen unbeabsichtigten Informationsabfluss nach A.8.12. Die Klassifizierung nach A.5.12 liefert das Kriterium, an dem sich entscheidet, was lokal bleibt.

Der KI-Kompetenz-Anspruch aus Art. 4 KI-VO wird an dieser Stelle konkret. Wer weiß, welches Modell was verarbeitet und warum, erfüllt ihn. Wer beides ungeprüft mischt, hat Tools im Einsatz, deren Datenflüsse er nicht beschreiben kann.

Was das Verfahren nicht leistet

Ehrlichkeit gehört dazu, sonst wird aus einem brauchbaren Vorgehen eine Erzählung.

Lokal ist kein Freibrief. Auch auf dem eigenen Gerät bleibt die Verarbeitung eine Verarbeitung im Sinn von Art. 4 Z 2 DSGVO. Sie braucht eine Grundlage, sie gehört ins Verarbeitungsverzeichnis, und das Gerät braucht Verschlüsselung, Zugriffsschutz und eine Regelung für den Verlustfall.

Das kleine Modell kennt keine Normen. Es liefert Artikelnummern, Erwägungsgründe und Fristen, die plausibel klingen und falsch sind. Meine Regel dazu ist unbedingt: Normbezüge nur mit Normtext im Kontext, nie aus dem Modellgedächtnis, und immer gegengeprüft. Für Rechtsfragen ist die lokale Schicht eines derart "einfachen" Modells schlicht nicht geeignet.

Warum das für fast jeden eine Idee ist

Mein Aufbau ist nicht auf Beratung zugeschnitten. Überall dort, wo mit vertraulichen Bestandsdaten gearbeitet wird und trotzdem gute Modellqualität gebraucht wird, funktioniert dieselbe Zweiteilung: eine lokale Schicht für das Rohmaterial, eine leistungsfähige Cloudschicht für die Denkarbeit, und dazwischen eine dokumentierte Regel, die festlegt, was den Übergang passiert.

Der eigentliche Gewinn besteht darin, dass sich die Frage "Welche Daten hat dieses Werkzeug gesehen?" jederzeit präzise beantworten lässt. Genau diese Frage stellen Aufsichtsbehörden, Auditoren und Kunden. Wer sie beantworten kann, ist weiter als die meisten Diskussionen über den Einsatz von KI im Unternehmen. Aber klar, dazu benötigt man derzeit noch ein solides technisches Grundverständnis.

Transparenzhinweis: Dieser Beitrag wurde unter anderem mit Unterstützung generativer KI (Claude Opus 5.0, Anthropic) erstellt.