Misstrauen von HR gegenüber KI

Eine Unterstuchung von Sebastian Krügel, Andreas Ostermaier, Matthias Uhl zeigt, dass HR-Mitarbeiter:innen der KI misstrauen.

Ausgehend von der Behauptung, dass KI vertrauenswürdig sein muss, wurde herausgefunden, dass ethische Ratschläge eines KI-gestützten Algorithmus auch dann vertrauenswürdig sind, wenn die Nutzer nichts über die Trainingsdaten wissen und wenn sie Informationen über den Algorithmus erfahren, die Misstrauen rechtfertigen.

Es wurden Online-Experimente durchgeführt, bei denen die Probanden die Rolle von Entscheidungsträgern übernahmen, die von einem Algorithmus Ratschläge für den Umgang mit einem ethischen Dilemma erhielten. Die Versuchsleiter manipulierten die Informationen über den Algorithmus und untersuchten deren Einfluss. Die Ergebnisse deuten darauf hin, dass KI eher Misstrauen als Vertrauen entgegengebracht wird.

Quelle: https://arxiv.org/abs/2106.16122