Einsatz von KI: Placebo-Effekt erhöht Risikobereitschaft

• Technologien, die menschliche Fähigkeiten verbessern, verändern das Risikoverhalten von Nutzerinnen und Nutzern
• Allein die Erwartung, von einer KI unterstützt zu werden, erhöht die Risikobereitschaft
• Forscher von LMU, Aalto University und HU Berlin empfehlen, bei der Evaluation neuer Anwendungen mögliche Placebo-Effekte zu prüfen.

Als „Human Augmentation Technologies“ werden Technologien bezeichnet, die menschliche Fähigkeiten verbessern. Dazu zählen zum Beispiel Exoskelette, aber auch Augmented Reality-Brillen. Eine Studie am Lehrstuhl für Human Centered Ubiquitous Media der LMU zeigt nun, dass Nutzerinnen und Nutzer hohe Erwartungen an den Effekt dieser Technologien haben. Sobald sie der Ansicht sind, eine KI würde ihre kognitiven Fähigkeiten verbessern, erhöht sich ihre Risikobereitschaft. Und das unabhängig davon, ob die KI sie tatsächlich unterstützt.

„Der Hype um KI-Anwendungen wirkt sich auf die Erwartungen von Nutzerinnen und Nutzer aus. Das kann zu risikoreicherem Verhalten führen“, sagt Steeven Villa, Doktorand am Lehrstuhl für Human Centered Ubiquitous Media und Erstautor der Studie.

Placebo-Effekte ausschließen

In der Studie wurde den Probandinnen und Probanden mitgeteilt, dass sie bei einem virtuellen Kartenspiel von einer KI-Anwendung unterstützt würden, die ihre kognitiven Fähigkeiten erhöht. Tatsächlich gab es diese Unterstützung nicht. Dennoch zeigten die Teilnehmenden eine höhere Risikobereitschaft, sobald sie glaubten, von der KI zu profitieren.

Die Studie bestätigt damit zudem den möglichen Placebo-Effekt bei technologischen Anwendungen in ähnlicher Form, wie dieser bei Medikamenten nachweisbar ist. „Wenn Menschen zunehmend mit intelligenten Systemen zusammenarbeiten, ist es wichtig einen möglichen Placebo-Effekt zu verstehen, um wirklich Systeme bauen zu können, die eine echte Unterstützung bieten“, sagt Albrecht Schmidt, Informatikprofessor an der LMU. Die Forscher empfehlen, vor der Verbreitung neuer KI-Anwendungen deren tatsächlichen Nutzen zu überprüfen und dann mögliche Placebo-Effekte zu berücksichtigen. Zudem raten sie, Nutzerinnen und Nutzer sowie deren Erwartungenshaltungen stärker in den Entwicklungsprozess miteinzubeziehen.

Publikation:
Steeven Villa, Thomas Kosch, Felix Grelka, Albrecht Schmidt, Robin Welsch (2023). The placebo effect of human augmentation: Anticipating cognitive augmentation increases risk-taking behavior. In Computers in Human Behavior, Volume 146.
https://doi.org/10.1016/j.chb.2023.107787
https://www.sciencedirect.com/science/article/pii/S0747563223001383?via%3Dihub

Kontakt:
Steeven Villa
Doktorand am Lehrstuhl Human Centered Ubiquitous Media der LMU
Tel.: +49 (0)89 2180 - 75146
E-Mail: villa@posthci.com
https://www.um.informatik.uni-muenchen.de/personen/mitarbeiter/villa/index.html