Künstliche Intelligenz ersetzt zunehmend menschliche Entscheidungsträger – ob bei Jobbewerbungen oder Universitätszulassungen. Das hat Konsequenzen. Forscher der Universitäten St.Gallen und Rotterdam zeigen in einer neuen Studie mit dem Titel «AI assessement changes human behavior», dass sich Menschen unter KI-Bewertung systematisch anders verhalten.

KI-Bewertungseffekt

In zwölf Studien mit über 13'000 Teilnehmern zeigt das Team einen sogenannten «KI-Bewertungseffekt»: Bereits die Information, von einer KI bewertet zu werden, verändert die Selbstdarstellung – mit potenziellen Folgen für Auswahlentscheidungen. Die Studie wurde im angesehenen, multidisziplinären Journal «Proceedings of the National Academy of Sciences» publiziert.

Kernaussagen der Untersuchung

• KI verändert nicht nur Auswahlprozesse – sondern auch das Verhalten der Bewerber: KI verändert Auswahlprozesse, indem sie Entscheidungen automatisiert, standardisiert und verspricht, sie effizienter und objektiver zu gestalten. Gleichzeitig beeinflusst die KI das Verhalten der Bewerbender – die blosse Information, von einer KI bewertet zu werden, führt dazu, dass Menschen ihre Selbstdarstellung ausrichten an dem, was sie für KI-gerecht halten. 
• Veränderter Denkstil – Analytik statt Intuition: Unter KI-Bewertung betonen Menschen verstärkt analytisches, systematisches und regelbasiertes Denken. Hingegen rücken emotionale Intelligenz, kreative Fähigkeiten oder intuitive Eigenschaften dabei in den Hintergrund, obwohl sie für viele Rollen ebenso wichtig sind und zunehmend wichtiger werden.
• Laienhaftes KI-Verständnis der Bewerbern: Das Umschwenken auf analytisches Denken beruht auf einer weit verbreiteten Annahme: Menschen glauben, dass KI analytische Eigenschaften bevorzugt – unabhängig davon, ob das tatsächlich der Fall ist. Dieses Laienverständnis beeinflusst aktiv das Verhalten von Bewerbern.
• Verzerrung kann zum Verlust von Vielfalt führen: Wenn sich Menschen unter KI-Bewertung systematisch anders verhalten, kann dies dazu führen, dass Unternehmen nicht mehr die «echte» Person bewerten, sondern deren strategisch angepasste Selbstdarstellung. Durch diese Verzerrung kann Vielfalt in Denkstilen und Persönlichkeit ungewollt verloren gehen.
• KI-Bewertungseffekt in Bewertungspraktiken identifizieren: Langfristig stellt sich die Frage, ob Anpassungen an die Kriterien, welche die KI bevorzugt, den Ausdruck von Individualität, Intuition oder emotionaler Intelligenz beeinflussen. Unternehmen sollten den KI-Bewertungseffekt berücksichtigen, um sicherzustellen, dass sie authentische Bewerberantworten erhalten.

Anpassung an Auswahlprozess

Künstliche Intelligenz verändert nicht nur, wer Entscheidungen trifft – sondern auch, wie sich Menschen im Auswahlprozess verhalten. Die Studie zeigt: Allein die Information, von einer KI bewertet zu werden, führt dazu, dass Menschen ihre Selbstdarstellung anpassen und analytische Eigenschaften stärker betonen.

Das kann dazu führen, dass Organisationen unbeabsichtigt Bewerber bevorzugen, die sich besonders KI-freundlich präsentieren – nicht unbedingt diejenigen, die am besten zum Jobprofil passen.

Mit dem wachsenden Einsatz solcher Systeme stellt sich die grundsätzliche Frage, wie sich menschliches Verhalten in einer Welt verändert, in der Maschinen zunehmend zu Bewertern werden. Organisationen und Gesellschaft sind gefordert, diese Entwicklung bewusst zu gestalten, um Vielfalt, Authentizität und Fairness im digitalen Zeitalter zu sichern. 

Methode der Studie

In insgesamt zwölf Studien mit 13'342 Teilnehmern wurde untersucht, wie sich Menschen in Bewerbungssituationen verhalten, wenn sie entweder von einer KI oder von einem Menschen bewertet werden. Die Studien beinhalten sowohl reale Bewerbungen im Feld als auch kontrollierte Online-Experimente.

Dabei wurde analysiert, wie sich die Teilnehmer unter verschiedenen Bewertungsbedingungen selbst beschreiben und präsentieren. Der wiederkehrende Befund: Die Annahme von KI-Bewertung verändert menschliches Verhalten konsistent und systematisch. Die Studie wurde im Journal «Proceedings of the National Academy of Sciences» publiziert und steht zum kostenlosen Download zur Verfügung.