Das bekannte Sci-Fi-Szenario einer selbstbewussten KI, die sich gegen ihre Schöpfer wendet, bleibt trotz des aktuellen KI-Booms unrealistisch. Vielmehr liegen die Risiken in der fehlenden Neutralität, Objektivität und Manipulationssicherheit der KI-Systeme wie ChatGPT, deren Entwicklung und Training oft intransparent sind.
Das ‘National Cyber Security Centre’ Großbritanniens (NCSC) legte nun einen Katalog von Forderungen vor, dem sich 22 Länder sowie zahlreiche führende Technologieunternehmen wie Amazon, Google, IBM, Microsoft und OpenAI angeschlossen haben.
Ziele in Bezug auf Entwicklung, Veröffentlichung und Betrieb von künstlicher Intelligenz
Der Katalog beinhaltet vier Hauptziele, die für die Sicherheit der Systeme entscheidend sind. Für ein fundiertes Verständnis der Natur entwickelter KI-Anwendungen ist von Beginn an eine umfassende Dokumentation erforderlich, die den gesamten Produktlebenszyklus umfasst – von der Konzeption bis zum Betrieb und zur Pflege bestehender Angebote. Die Hauptelemente des Papiers sind die folgenden Säulen:
- Sicheres Design
- Entwicklung mit Sicherheitsfokus
- Sicherheit in der Veröffentlichung
- Sicherer Betrieb und Wartung
Unter sicherem Design versteht man beispielsweise die Durchführung von Risikoanalysen zu Beginn eines KI Projekts, um potenzielle Probleme der Nutzung zu identifizieren. Eine detaillierte Dokumentation der verwendeten Daten, Modelle und Verschlüsselungsmethoden sowie regelmäßige Überprüfungen sind gemäß des Katalogs unerlässlich.
Das NCSC hebt außerdem die Wichtigkeit gesicherter Infrastrukturen und den Schutz der Sprachmodelle hervor, um externe Einflussnahme zu verhindern. Bei KI-Anwendungen ist die Erkennung von Manipulationen, die auf Informationsgewichtung abzielen, besonders schwierig. Daher ist ein kontinuierliches Monitoring der Eingaben und Ausgaben nach Ansicht der Autoren entscheidend.
Es wird deutlich, dass es aktuell mehrere Initiativen gibt, um KI regelkonform zu gestalten. Dies zeigt sich auch in der kürzlich veröffentlichten Bletchley Park Deklaration, die dieses Thema anspricht. Für mich sind dies klare Anzeichen dafür, dass sich die Hersteller der großen Risiken in diesem Bereich zunehmend bewusst werden – eine möglichst global implementierte Regulierung ist daher unerlässlich!
