Die Wirkung des Einsatzes KI gestützter Technologie zur Lügenerkennung in Verhandlungen

Die zunehmende Digitalisierung gesellschaftlicher und ökonomischer Interaktionen verläuft mit
einer erheblichen Geschwindigkeit. Forschung zu Digitalisierungsprozessen sollte dabei zwei Erkenntnisgegenstände
miteinander in Einklang bringen, die für gewöhnlich allerdings getrennt voneinander
untersucht werden: Erstens die Frage der technischen Entwicklung und zweitens die
Frage der Auswirkungen dieser Entwicklung auf menschliches Verhalten. In dem hier beantragten
Projekt soll der Versuch unternommen werden, beide Perspektiven in einem interdisziplinären
Zugang miteinander zu verbinden, wobei der Schwerpunkt zwar auf der Verhaltensanalyse liegt,
die technische Komponenten aber dennoch stark vertreten ist. Der Anwendungsfall, der für diese
Art der Analyse von Digitalisierungsprozessen gewählt wird, ist das Phänomen asymmetrischer
Information.
Asymmetrisch verteilte Information spielt in vielen ökonomischen Kontexten eine wichtige Rolle.
Informationsasymmetrien sind verantwortlich für Adverse Selektion (Akerlof, 1978) und Moral Hazard
auf Versicherungsmärkten, spielen im Human Resource Management eine große Rolle und
verhindern, dass bilaterale Verkaufsverhandlungen sicher zu effizienten Lösungen führen
(Kennan and Wilson, 1993). Bisher gab es kaum eine Möglichkeit, diese Asymmetrien zu beseitigen,
weil die asymmetrisch verteilte Information privater Natur ist. Nur das jeweilige in einer
Verhandlung stehende Individuum kennt sie. Deshalb konzentrierte sich die Forschung lange auf
die Frage, ob es Anreizsysteme gibt, unter denen die wahrheitsgemäße Offenbarung privater
Information eine beste Antwort sein kann (Myerson and Satterthwaite, 1983). In der jüngsten Zeit
hat sich die Situation insofern geändert, als es mit Methoden der künstlichen Intelligenz (KI) möglich
geworden ist, aus der Mimik von Menschen auf Gefühlszustände zu schließen, um so beispielsweise
detektieren zu können, ob gelogen wird oder nicht (Pérez-Rosas et al., 2015). Es ist
davon auszugehen, dass angesichts der fortschreitenden Digitalisierung die Qualität derartiger
Algorithmen weiter zunehmen wird. Künstliche Intelligenz umfasst hier vor allem das Forschungsgebiet Maschinelles Lernen, in dem ein künstliches System anhand von Beispielen trainiert wird und zwar so, dass es anschließend für unbekannte Daten verallgemeinert.
Das Projektvorhaben verbindet zwei Forschungsbereiche: Wirtschaftswissenschaften (WW) sowie
Neuro-Informationstechnik (NIT). In beiden Bereichen spielt die Identifikation privater Information
eine große Rolle, wird jedoch aus unterschiedlichen Blickwinkeln betrachtet. Während die
ökonomische Analyse sich auf die Rolle und Wichtigkeit privater Information in Verhandlungssituationen
fokussiert, steht bei NIT die Machbarkeit und Qualität einer automatisierten Erkennung
persönlicher Charakteristiken im Vordergrund. Dass das Zusammenwirken beider Forschungszweige
erfolgreich möglich ist, wird anhand der gemeinsamen Publikation der Antragsteller
(Othman et al., 2019) deutlich.
Im Zentrum dieses Forschungsvorhabens stehen mehrere Fragen. Die ökonomisch bedeutsame
Frage ist, ob und wie Menschen auf die Existenz einer wenig invasiven Technologie zur Lügendetektion
reagieren. Dabei wird es einerseits darum gehen, wie Menschen mit den Informationen
umgehen, die eine KI erzeugt und zum anderen, wie sich die bloße Existenz einer solchen Technologie
auswirkt. Es wird untersucht, ob Institutionen (zum Beispiel Märkte), die die automatisierte
Erkennung privater Information benutzen, Institutionen vorgezogen werden, die auf diese Technik
verzichten. Aus technischer Perspektive soll geklärt werden, wie gut eine KI gestützte Technologie
in der Lage ist, einfache Lügen im ökonomischen Kontext zu erkennen. Die Forschungsfragen
lassen sich wie folgt zusammenfassen.

Aus ökonomischer Sicht, werden folgende Forschungsfragen untersucht:

1. Wie wirkt sich die Existenz einer KI basierten Technologie zur Detektion von Lügen a priori
auf das Kommunikationsverhalten und insbesondere auf den Gebrauch von Lügen aus?

2. Wie nutzen Menschen die Informationen über die Ehrlichkeit ihres Verhandlungspartners,
die die KI gestützte Technologie Ihnen präsentiert?
3. Kommt es durch die Existenz derartiger KI Technologien zu Marktselektionseffekten? Unter
welchen Umständen werden Akteure ein Marktdesign vorziehen, das KI gestützte
Technologie einsetzt oder auslässt?
Aus ingenieurstechnischer Sicht stehen folgende Forschungsfragen im Vordergrund:
1. Inwiefern ist die Detektion von Lügen in simplen Verhandlungssituationen mit finanzieller
Incentivierung mittels einer KI gestützten mimischen Expressionsanalyse möglich?
2. Wie lässt sich die Detektion von Lügen durch die Hinzunahme weitere Modalitäten, z.B.
der automatisierten, bildbasierten Vitalparameterschätzung verbessern?

3. Wie können die Klassifikationsmodelle interpretiert, der Einfluss unterschiedlicher Modalitäten
bewertet und Merkmale, die zur Detektion von Lügen geeignet sind, identifiziert
werden?

Das Projekt nutzt die KI-Technologie, um die Frage zu beantworten, wie sich individuelles Verhalten in Konfliktsituationen mit privater Information durch die Existenz solcher Mechanismen ändert. Dies geschieht mit Hilfe incentivierter Laborexperimente und des Einsatzes der KI-Technologie. Die finale Forschungsfrage ist, ob die alleinige Existenz solcher Technologien die Menschen in ihrem Verhalten beeinflusst. So wird Käufern und Verkäufern die Möglichkeit gegeben, sich für oder gegen diese Technologie zu entscheiden, um Zugriff auf private Informationen des Verhandlungspartners zu erlangen. Damit befasst sich das Projekt mit ökonomischen Konsequenzen der Digitalisierung im Bereich des Marktdesigns. Es soll untersucht werden,
wie sich die Akteure in entsprechende Teilmärkte selektieren und ob die Märkte überhaupt
zustande kommen. Diese Forschungsfrage ist von hoher praktischer und wissenschaftlicher Relevanz.
Der Einsatz von KI wird in den nächsten Jahren stark zunehmen und in immer mehr Anwendungen auftreten. Angesichts dieser Entwicklung ist es von hohem gesellschaftlichem und wissenschaftlichem Interesse zu wissen, wie die Verwendung solcher Technologien das Verhalten der betroffenen Akteure beeinflusst. Dies ist sowohl für die Beantwortung der Frage nach den Wohlfahrtseffekten der KI als auch für konkrete Fragen des Marktdesigns relevant. Eine hervorhebenswerte Stärke des Projektes zu ist, dass das erwartete Lügeverhalten durch entsprechende laborexperimentelle Methoden incentiviert ist und die KI auf incentivierten Datensätzen lernen kann. Die KI gestützte Technologie, die in dem Projekt zum Einsatz kommt, ist allerdings nicht nur geeignet, Lügen zu detektieren, sondern kann ganz allgemein dafür verwendet werden emotionale Zustände aufzudecken. In diesem Zusammenhang stellt sich zusätzlich die Frage, ob eine höhere Transparenz der emotionalen Zustände der Verhandlungsteilnehmer Auswirkungen auf den Verlauf der Verhandlungen bzw. auf deren Ergebnisse hat. Als ein Nebenprodukt können die im Rahmen des Projekts gesammelten methodischen Erfahrungen zur Analyse emotionaler Reaktionen dazu genutzt werden, um Beweggründe von Versuchspersonen in anderen Laborexperimenten auf eine neue Art zu analysieren.