TP 3 (Teil-)Projektbeschreibung

TP 3 NACHOS | Bereich: Umsetzung

Zentrale Fragestellung des Teilprojekts: 

Wie können bei Einführung von Innovationen Akzeptanz gesteigert und Aversion abgeschwächt werden ?

 

TP 3: Abbau von Aversion und Steigerung der Akzeptanz gegenüber innovativen,

          intelligenten Systemen 

(PI: Jun.-Prof. Dr. Kai Heinrich | Co-PIs: Prof. Dr. Heike Ohlbrecht, Prof. Dr. Lukas)

 

Im Gegensatz zu klassischen IT-Systemen als Teil von Informationssystemen, stellen intelligente Systeme als Innovation mit ihrer vollständig oder teilweisen autonomen Entscheidungslogik einerseits eine innovative Bereicherung für sämtliche Bereiche in Wirtschaft und Gesellschaft dar, andererseits schaffen Sie aufgrund ihrer Komplexität und Undurchdringlichkeit eine Barriere zwischen Mensch und System. Eine erfolgreiche Zusammenarbeit von Menschen und intelligenten Systemen hängt in den meisten Anwendungsszenarien von der Gestaltung eines hybriden, sozio-technischen Informationssystems ab, welches das Beste beider Welten vereinen kann. Dies kann allerdings nur erreicht werden, wenn die am Entscheidungsprozess beteiligten Menschen das intelligente System akzeptieren. Während z.B. auf künstlicher Intelligenz basierende Entscheidungsunterstützungssysteme im Medizinbereich beeindruckende Ergebnisse in der Vorhersage und Erkennung von Krankheiten liefern, ist die Einbettung dieser Ergebnisse in den ärztlichen Entscheidungsprozess oft gestört durch eine Aversion gegenüber algorithmisch erzeugten Vorhersagen auf Seiten der menschlichen Stakeholder, in diesem Fall durch das ärztliche Fachpersonal und nicht zuletzt durch die Patienten selbst.

Während die Gründe für diese Aversion sehr vielseitig sein können, sind diese größtenteils auf der menschlichen Ebene erforscht, was keine unmittelbare Ableitung von Gestaltungsrichtlinien für hybride, intelligente Systeme sowie die Teambildung zwischen Menschen und Systemen zulässt. Dazu müssen zunächst theoretische Erkenntnisse zu dem Thema algorithmischer Aversion operationalisiert und anschließend empirisch geprüft werden.

Dabei gibt es im Rahmen dieses Teilprojektes drei konkrete Blöcke, die geprüft werden sollen: (a) zum einen kann die Einbeziehung des Menschen als Entscheidungsträger in den Aufbau (speziell das Training) dieser Systeme zu einer Mitigation des Kontrollverlustes im Rahmen algorithmischer Aversion führen. Dazu werden verschiedene, interaktiver Ansätze des Systemtrainings mit human-in-the-loop-Elementen versehen und erprobt. Weiterhin (b) wird die fehlende Transparenz bzgl. der Entscheidungslogik des intelligenten Systems aufgebrochen und es werden verschiedene Methoden der Erklärung dieser Logik gegenüber den menschlichen Stakeholdern geprüft. Letztendlich (c) wird der Einführungsprozess solcher Systeme als erster Kontakt der Nutzer mit dieser Innovation untersucht und verschiedene Varianten einer „Kennenlernphase“ erprobt.

In empirischen Experimenten, in verschiedenen Anwendungsbereichen (u.a. Industrie und Medizin) werden die Auswirkungen der in (a)-(c) gestalteten Maßnahmen auf die Aversion und Akzeptanz der Menschen gegenüber intelligenten Systemen erprobt.