Herausforderung Mensch-zentrierte KI
Diese aus Sicht der Gartner Group bestehende Gruppe von Innovationen mit der Bezeichnung "Human-centric AI" umfasst beispielsweise das Risiko- und Sicherheitsmanagement (TRiSM), die Sicherstellung von verantwortungsvoller KI und auch ganz grundsätzlich die digitale Ethik.
Wenn KI menschliche Entscheidungen ersetzt, verstärkt sie sowohl gute als auch schlechte Ergebnisse. Verantwortungsvolle KI ermöglicht die richtigen Ergebnisse, indem sie Dilemmata löst, die auf der Bereitstellung von Werten im Vergleich zur Tolerierung von Risiken beruhen. Verantwortungsvolle KI ist ein Überbegriff für Aspekte der getroffenen geschäftlichen und ethischen Entscheidungen bei der Einführung von KI, einschließlich geschäftlichem und gesellschaftlichen Wert, Risiko, Vertrauen, Transparenz, Fairness, Abschwächung von Vorurteilen, Erklärbarkeit, Rechenschaftspflicht, Sicherheit, Datenschutz und Einhaltung gesetzlicher Vorschriften. Verantwortliche KI umzusetzen wird noch 5 bis 10 Jahre brauchen, um die Mainstream-Akzeptanz zu erreichen, aber letztendlich einen transformativen Einfluss auf den Einsatz von KI haben.
Digitale Ethik ist jedenfalls ein kurzfristiger Trend (zwei bis fünf Jahre), der wahrscheinlich hohe Auswirkungen auf den Einsatz von künstlicher Intelligenz haben wird. Digitale Ethik umfasst die Wertesysteme und moralischen Prinzipien für die Durchführung elektronischer Interaktionen zwischen Menschen, Organisationen und Dingen. Diese Themen, insbesondere in Bezug auf Privatsphäre und Voreingenommenheit, sind für viele Menschen nach wie vor besorgniserregend. Menschen, die sich zunehmend bewusst sind, dass ihre Informationen wertvoll sind, sind frustriert über mangelnde Transparenz, über aktuellen Missbrauch und Verstöße gegen ethische Grundprinzipien. Organisationen müssen handeln, um Risiken im Zusammenhang mit der Verwaltung und Sicherung personenbezogener Daten zu mindern, während die Regierungen strengere Gesetze umsetzen müssen.
Viele Organisationen ignorieren dieses Thema derzeit, weil sie denken, dass sie nicht für ihre Branche gilt, aber laut Gartner Group Prognosen werden bereits 2024 30% der größten Organisationen weltweit eine neue "Voice of Society"-Metrik verwenden, um auf diese gesellschaftliche Fragen zu reagieren und die Auswirkungen auf ihren geschäftlichen Output zu bewerten. Unternehmen müssen die digitale Ethik in ihre KI-Strategien integrieren, um ihren Einfluss und ihren Ruf bei Kunden, Mitarbeitern, Partnern und der Gesellschaft zu stärken.
