Forschungsgrundlage ist die erklärbare KI (XAI), die unter anderem eigentlich dazu entwickelt wurde, die menschliche Urteilskraft zu schärfen. Stattdessen zeigt die Studie in einem Experiment mit 200 Teilnehmern, dass die durch XAI geschaffene Transparenz konkurrierende Effekte ausübt: Während sie die Fehlerhäufigkeit (negative Konsultationen) direkt reduziert, steigert sie gleichzeitig unbeabsichtigte Folgen (blindes Vertrauen und Verantwortungsabgabe).
Das blinde Vertrauen (Automatisierungsbias) in die KI könnte insbesondere dann entstehen, wenn der Mensch nicht versteht, wie diese arbeitet. Die Studie beweist jedoch das Gegenteil: Gerade wenn die KI sich erklärt, neigen Menschen dazu, ihren eigenen Verstand auszublenden und falschen Vorschlägen zu folgen. In der Untersuchung wurde ein möglicher Grund hierfür hervorgehoben: Die Probanden hielten die KI für extrem kompetent, sodass unbewusst die Verantwortung für die Entscheidung an die Maschine abgegeben wurde.
Das Ziel für die Zukunft sollte nicht einfach „mehr Transparenz“ sein. KI sollte so gebaut und eingesetzt werden, dass es dem Menschen möglich ist, ein angemessenes Vertrauen zu entwickeln und trotz dessen weiterhin einen kritischen Blick auf KI-generierte Inhalte zu haben.
Veröffentlichung der Studie im Elsevier Journal unter folgendem Link
