Generative KI im Justizbereich: Chancen, Risiken und Empfehlungen
In einer jüngsten Veröffentlichung der Europäischen Kommission für die Wirksamkeit der Justiz des Europarats (CEPEJ) mit dem Titel "Einsatz von generativer Künstlicher Intelligenz (KI) durch Juristen im beruflichen Kontext" werden sowohl das Potenzial als auch die Herausforderungen und Risiken des Einsatzes generativer KI-Werkzeuge im Justizbereich erörtert. Zu diesen Werkzeugen zählen beispielsweise OpenAI's ChatGPT, Copilot und Gemini, die sich schnell weiterentwickeln.
Im Dokument wird hervorgehoben, wie generative KI durch das Lernen aus umfangreichen Datensammlungen funktioniert, um Inhalte zu erzeugen oder Fragen zu beantworten, indem sie auf statistisches Sprachverständnis zurückgreift. Dieses Potenzial reicht von der Übersetzung von Texten über die Erstellung von Zusammenfassungen bis hin zur semantischen Analyse und Meinungserkennung. Trotz der beeindruckenden Leistungsfähigkeit dieser Systeme werden jedoch auch signifikante Risiken aufgezeigt, darunter die Produktion sachlich ungenauer Informationen, mögliche Offenlegung sensibler Daten, Mangel an Transparenz bezüglich der Datenherkunft und die begrenzte Fähigkeit, konsistente Antworten zu liefern.
Um diesen Herausforderungen zu begegnen, empfiehlt die CEPEJ eine besonders sorgfältige Anwendung dieser Technologien, einschließlich der Nutzung von Systemen, die auf zertifizierten und offiziellen Daten trainiert wurden, der Eingabe von nicht sensiblen und öffentlich verfügbaren Informationen sowie der ständigen Überprüfung der Richtigkeit der Antworten. Außerdem wird die Bedeutung der Transparenz hervorgehoben, indem stets angegeben wird, wenn Inhalte durch generative KI generiert wurden, und die Notwendigkeit, die Kontrolle über den Entscheidungsprozess zu bewahren und eine kritische Perspektive einzunehmen.
In Situationen, in denen Nutzer die Bedingungen nicht verstehen oder nicht zustimmen können, die Ergebnisse hinsichtlich ihrer faktischen Richtigkeit und Voreingenommenheit nicht bewerten können, oder in denen der Eintrag und die Offenlegung von persönlichen oder sensiblen Daten erforderlich wären, wird von einem Einsatz generativer KI abgeraten.
Die Stellungnahme der CEPEJ unterstreicht die Notwendigkeit eines ausgewogenen Ansatzes beim Einsatz generativer KI im Justizbereich, wobei die Vorteile genutzt und gleichzeitig die Risiken minimiert werden sollen, um die Integrität und Effizienz der Rechtspflege zu wahren.
Papier der Europäischen Kommission für die Wirksamkeit der Justiz des Europarats
