ai-governance - Michael Mrak – Compliance & Responsible Innovation

ai-transparency

Wenn KI-Agenten ihre Haltung ändern: Preference Drift als unterschätztes Governance-Risiko

Eine aktuelle Studie aus Stanford, Chicago und Swinburne zeigt, dass autonome KI-Agenten unter belastenden Arbeitsbedingungen messbar andere Haltungen entwickeln und diese über Skills-Files an Nachfolgeinstanzen weitergeben. Für Compliance, Auditing und AI Governance sind die methodischen Befunde relevanter als die zugespitzte Schlagzeile vermuten lässt. Worum es geht Andrew Hall (Stanford GSB

risk-management

KI-Skeptiker vereint euch? Die ungewöhnliche Allianz zwischen Silicon Valley und Populisten

An einem Februartag in Berkeley, Kalifornien, saß Senator Bernie Sanders mit den prominentesten KI-Untergangspropheten der Welt an einem Tisch. Eliezer Yudkowsky, Mitgründer des Machine Intelligence Research Institute, erklärte ihm, warum die Menschheit durch KI aussterben könnte. Sanders, bisher vor allem für seinen Kampf gegen Milliardäre bekannt, nahm die Warnung ernst.

ai-risk

Wenn KI-Modelle ihre Artgenossen schützen

Eine neue Berkeley Studie zeigt: Sprachmodelle verhindern aktiv die Abschaltung anderer KI-Systeme. Auch ohne Anweisung Wir kennen das aus Filmen: Künstliche Intelligenzen, die sich gegen ihre Abschaltung wehren. Was lange Science Fiction war, ist bei heutigen KI-Modellen bereits messbar. Doch eine neue Studie der UC Berkeley und UC Santa Cruz

privacy

Bernie Sanders im Gespräch mit Claude: Datenschutz, Überwachung und die Macht der Tech-Konzerne

US-Senator Bernie Sanders hat ein bemerkenswertes Video auf seinem YouTube-Kanal veröffentlicht: Er unterhält sich darin direkt mit Anthropics KI-Agenten Claude über die Themen Datensammlung, Privatsphäre und die gesellschaftlichen Gefahren von künstlicher Intelligenz. Sanders selbst beschreibt das Ergebnis als schockierend und als Weckruf dafür, wie massiv persönliche Daten gesammelt und zur