Doofer Computer! Warum menschenähnli­che Chatbots anders beleidigt werden

Virtuelle Assistenten, sogenannte Chatbots, sind von vielen Unternehmenswebseiten nicht mehr wegzudenken und gewinnen zunehmend an Bedeutung. Eine Studie der TU Dresden hat untersucht, ob Fehler von Chatbots zu aggressivem Verhalten bei ihren Nutzer:innen führen und welchen Einfluss die vermeintliche Menschlichkeit der virtuellen Assistenten auf die Reaktionen hat.

Chatbots sollen es Internetnutzer:innen leichter machen, benötigte Informationen schnell zu finden, indem sie auf Fragen und Wünsche direkt antworten. Die Reaktionen auf einen Chatbot sind allerdings längst nicht immer nur positiv, weiß Professor Alfred Benedikt Brendel von der TU Dresden. „Wenn ein Chatbot falsche oder verwirrende Antworten gibt, kann dies bei Nutzern Aggressivität gegenüber dem digitalen Gesprächspartner auslösen“, erklärt der Inhaber der Professur für Wirtschaftsinformatik, insb. Intelligente Systeme und Dienste. Aggressionen gegenüber dem virtuellen Assistenten, wozu beispielsweise auch Beschimpfungen zählen, haben im schlimmsten Fall auch weitere negative Effekte – zum Beispiel auf die Einstellung der Nutzer:innen zur Webseite oder dem Anbieter selbst.

In ihrer Studie untersucht das internationale Forschungsteam um Alfred Brendel, ob die Gestaltung von Chatbots einen Einfluss darauf hat, wie Nutzer:innen auf unbefriedigende Antworten reagieren. Versieht man einen Chatbot mit menschlichen Attributen, ist anzunehmen, dass aggressives Verhalten seltener auftritt als bei einem neutral gestalteten Chatbot. „In unseren Experimenten kam bei einem Teil der Befragten ein menschlicher Chatbot zum Einsatz, der mit Namen, Geschlecht und Bild versehen war. Er beantwortete Fragen sehr freundlich und verstärkte seine Botschaften mit passenden Emojis.“ Der neutrale Chatbot, mit dem ein anderer Teil der Studienteilnehmer:innen interagierte, enthielt hingegen keine solcher Gestaltungselemente.

Die Ergebnisse der Studie zeigen zunächst, dass der menschliche Chatbot generell die Zufriedenheit der Nutzer:innen steigert. Das wiederum reduziert auch das Auftreten von Frustration. Gibt ein Chatbot jedoch unbefriedigende Antworten führt dies entgegen der ursprünglichen Vermutung der Forscher aber auch bei einem Chatbot mit menschlichen Attributen zu Frustration und Aggressivität. Insgesamt zeigen etwa zehn Prozent der Nutzer:innen aggressives Verhalten gegenüber den virtuellen Assistenten.

Im Gegensatz zu einem neutralen Chatbot verringert sich bei einem menschlicheren Chatbot allerdings die Intensität des aggressiven Verhaltens. So verwendeten User:innen seltener beleidigende Äußerungen, wenn sie mit einem menschlichen Chatbot interagierten. Die Ergebnisse haben insbesondere für die Praxis weitreichende Konsequenzen, erläutert Alfred Brendel. „Ich würde Softwareentwicklern empfehlen, bei der menschenähnlichen Gestaltung bedacht vorzugehen und genau zu überlegen, welche positiven wie negativen Effekte zusätzliche menschenähnliche Gestaltungselemente wie Geschlecht, Alter oder bestimmte Namen haben können.“

Über seine Forschung spricht Professor Alfred Benedikt Brendel auch im Video der Reihe »Kurze Frage« auf dem YouTube-Kanal »TU Dresden entdecken«

Link zur Publikation
Brendel, A.B.; Hildebrandt, F.; Dennis, R.; Riquel, J. (2023): The Paradoxial Role of Humanness in Aggression Toward Conversational Agents, in: Journal of Management Information Systems.
https://doi.org/10.1080/07421222.2023.2229127

Kontakt:
Prof. Alfred Benedikt Brendel
Fakultät Wirtschaftswissenschaften
Professur für Wirtschaftsinformatik, insb. Intelligente Systeme und Dienste
Tel.: +49 351 463-33082