Was eine verantwortungsvolle KI auszeichnet

Bild: geralt/Pixabay

06.01.2021 - Trifft K�nstliche Intelligenz diskriminierende Entscheidungen oder schl�gt Kunden unpassende Angebot vor, kann das den Ruf und den Umsatz von Unternehmen ernsthaft besch�digen. Wie man sich mit einer verantwortungsvollen KI davor sch�tzen kann:

von Christina Rose

Immer mehr Unternehmen setzen bei ihren Angeboten auf K�nstliche Intelligenz (KI). Ihre Algorithmen schlagen Produkte und Services vor, hauchen Chatbots Leben ein und �bersetzen Texte. Dadurch unterliegen Unternehmen einem geh�rigen Wettbewerbsdruck, denn die Konkurrenz hat ihre KI-Systeme schlie�lich l�ngst am Start. Dennoch sollten sie sich vor Schnellsch�ssen h�ten und sicherstellen, dass sie eine verantwortungsvolle K�nstliche Intelligenz einsetzen. Sonst k�nnen ihnen erhebliche Sch�den drohen.

Pegasystems , Anbieter von Kundenbindungs-Software f�r Vertrieb, Marketing, Service und Operations, nennt die vier zentralen Eigenschaften einer solchen KI:

Fairness
Unternehmen sollten sicherstellen, dass ihre KI alle Geschlechter, Ethnien, Altersgruppen, Gesellschaftsschichten, Einkommensgruppen, religi�sen Gemeinschaften und sexuellen Orientierungen gleich behandelt. Dazu m�ssen sie KI-Modelle aufbauen, die frei von Voreingenommenheiten sind, sie proaktiv �berwachen und ihre Ergebnisse kontinuierlich analysieren. Der Aspekt der Fairness hat beim Einsatz von KI oft nicht die oberste Priorit�t. Treffen Algorithmen aber diskriminierende Entscheidungen, kann das f�r Unternehmen �u�erst ruf- und gesch�ftssch�digende Folgen haben.
Transparenz
Unternehmen sollten im Zweifelsfall aufzeigen k�nnen, wie ihre KI zu einer Entscheidung gelangt ist. Das gilt insbesondere f�r stark regulierte Branchen wie Finanzdienstleistungen oder Versicherungswesen. So geriet vor kurzem etwa ein Finanzdienstleister in die Schusslinie, weil er anscheinend Frauen mit demselben Einkommenshintergrund wie M�nner schlechtere Konditionen f�r Kreditkarten anbot. Da er nicht erkl�ren konnte, wie seine KI zu den entsprechenden Entscheidungen kam, stand er als frauenfeindlich da. F�r regulierte und risikoreiche Anwendungsf�lle sollten Unternehmen deshalb transparente und erkl�rbare Algorithmen einsetzen.
Empathie
Die Notwendigkeit f�r Unternehmen, sich gegen�ber ihren Kunden einf�hlsam zu zeigen, war noch nie so gro� wie in den belastenden Zeiten der Corona-Pandemie. Deshalb sollten sie eine empathische KI einsetzen. Eine solche KI trifft Entscheidungen, die relevant und hilfreich sind und die Bed�rfnisse der Kunden an die erste Stelle setzen. Dazu muss sie in der Lage sein, den vollst�ndigen Kontext eines Kunden zu ber�cksichtigen. Nur dann kann sie wissen, was er genau jetzt ben�tigt. Das muss nicht unbedingt ein bestimmtes Angebot sein, sondern kann auch bedeuten, ihn f�r eine gewisse Zeit in Ruhe zu lassen.
Robustheit
Vor einigen Jahren machte der Twitter-Bot Tay Schlagzeilen. Die Twitter-Nutzer waren dazu aufgerufen mit ihm zu interagieren; innerhalb von 24 Stunden entwickelte er sich dabei zu einem Alptraum. Das zugrundeliegende KI-Modell wurde durch die Daten, die es aus den Twitter-Konversationen aufnahm, frauenfeindlich und rassistisch. Dieser Fall macht deutlich, dass Unternehmen eine robuste KI ben�tigen; eine KI, die durch eingebaute Schutzmechanismen, Regeln und Leitlinien nicht so leicht beeinflusst werden kann.

"Fairness, Transparenz, Empathie und Robustheit sind die Grundpfeiler einer verantwortungsvollen K�nstlichen Intelligenz. Mit ihnen k�nnen Unternehmen sicherstellen, dass ihre K�nstliche Intelligenz die Werte unserer Gesellschaft widerspiegelt und die Kundenbed�rfnisse in den Mittelpunkt stellt", sagt Dr. Kay Knoche, Principal Solution Consultant bei Pegasystems. "Das ist nicht nur ethisch geboten, sondern macht sich langfristig auch im Umsatz der Unternehmen positiv bemerkbar."

Diskussion:

Kommentar hinzuf�gen
Schreiben Sie Ihre Meinung, Erfahrung, Anregung mit oder zu diesem Thema. Ihr Beitrag erscheint dann an dieser Stelle.

Vortr�ge zum Thema:

Bild: Michael Poganiatz

Joachim Graf (ibusiness.de)

Zehn Prognosen zur Zukunft von E-Commerce, Marketing und Digitalem Business

�berrollt uns die K�nstliche Intelligenz? Sehen wir das Ende des E-Commerce, wie wir ihn kennen? Was bedeutet die im unsicher werdende Welt f�r die Entwicklung der digitalen Welt. Zukunftsforscher und iBusiness-Herausgeber Joachim Graf ordnet die aktuellen Entwicklungen ein und liefert Zahlen, Prognosen und Szenarien, die ein wenig Klarheit bringen f�r die Planung der kommenden Monate und Jahre.

Vortrag im Rahmen der Zukunftskonferenz 2024. Trends in ECommerce, Marketing und digitalem Business am 05.12.23, 09:30 Uhr

LOXXESS AG

Die LOXXESS AG ist ein spezialisierter Logistikdienstleister mit Schwerpunkt auf komplexe Outsourcing-Projekte in Industrie und Handel. Das mittelst�ndische, familiengef�hrte Unternehmen entwickelt f�r seine Kunden ma�geschneiderte L�sungen in den Be…