Shitstorm wegen KI-Influencerin:
Was Marketer aus dem Debakel um Emma lernen können
Am vergangenen Wochenende löste die Deutsche Zentrale für Tourismus (DZT) mit ihre neue KI-generierte Influencerin namens Emma einen Shitstorm aus. Wir erklären, wieso die Reaktionen so heftig ausfielen und was Marketer bei KI-Influencer:innen beachten sollten.
Foto: DZT/Flovision
Ich bin das erste Mal auf LinkedIn beim Medienkritiker Thomas Knüwer über die KI-generierte Influencerin Emma der DZT gestolpert, der seine Kritik an dem KI-Avatar mittlerweile in einem lesenswerten Blogpost zusammengefasst hat. Wer mehr über die mangelnde Digitalisierung der Tourismusbranche und über Emmas Fehler bzw. die Fehler, die Knüwer der Deutschen Tourismus Zentrale anlastet, erfahren möchte, kann dort tiefer eintauchen.
Umgesetzt wurde die KI-Influencerin von Flowvision, dem Unternehmen des (lebenden, nicht KI-generierten) deutschen KI-Influencers Florian Hübner, der auch als Mr. Tech bekannt ist.
Wieso wird der Einsatz der KI-Influencerin Emma kritisiert?
Die Kritik der Nutzer:innen, die im wesentlichen mit Knüwers Kritik übereinstimmt, lässt sich in vier Punkten zusammenfassen:
- Mangelnde Authentizität: Viele Nutzer:innen kritisierten, dass eine künstliche Figur keine authentischen Reiseerfahrungen vermitteln könne.
- Technische Mängel: Das präsentierte Video zeigte Unschärfen und typische KI-Fehler, wie fehlende Finger.
- Stereotype Darstellung: Die Wahl einer blonden Frau mit Modelfigur wurde als Verstärkung deutscher Vorurteile kritisiert.
- Fragwürdige Informationen: Der zugehörige Chatbot lieferte teilweise falsche oder unzureichende Antworten.
Wieso wird Emma so emotional diskutiert?
Die Kunstfigur ist vielen unheimlich und die ihr übertragene Aufgabe, Deutschland als Reiseland zu repräsentieren, würden offensichtlich viele lieber einem echten Menschen übertragen.
Damit Marketer nicht in die gleiche Falle tappen, ist es wichtig zu verstehen, wieso Menschen auf virtuelle Avatare wie die KI-Influencerin Emma so emotional reagieren.
Diese unbehagliche Reaktion lässt sich mit der wissenschaftlichen Uncanny-Valley-Theorie erklären. Das "Uncanny Valley" (unheimliches Tal) ist ein Konzept aus der Robotik und der Computergrafik, das 1970 von dem japanischen Robotiker Masahiro Mori eingeführt wurde. Es beschreibt ein Phänomen in der menschlichen Wahrnehmung von künstlichen Figuren oder Robotern:
1. Grundprinzip: Je menschenähnlicher ein Roboter oder eine künstliche Figur wird, desto positiver reagieren Menschen zunächst darauf.
2. Der Einbruch: Ab einem bestimmten Punkt der Menschenähnlichkeit kippt diese positive Reaktion jedoch plötzlich ins Negative. Die künstliche Figur wird dann als unheimlich oder abstoßend empfunden.
3. Überwindung: Erst wenn die Menschenähnlichkeit so perfekt ist, dass sie von einem echten Menschen nicht mehr zu unterscheiden ist, wird die Figur wieder positiv wahrgenommen.
(In einem Diagramm sieht dieser Verlauf wie ein "Tal" aus, daher der Name "Uncanny Valley".) Es gibt verschiedene Theorien, warum dieser Effekt auftritt. Eine mögliche Erklärung ist, dass kleine Abweichungen vom menschlichen Erscheinungsbild oder Verhalten als befremdlich wahrgenommen werden und evolutionär bedingte Warnmechanismen auslösen.
Zurück zu Emma: Die Influencerin weist optisch und akustisch Fehler auf, die Unbehagen erzeugen und damit schon zu einer emotionalen Ablehnung der Kunstfigur führen.
Was Marketer aus dem Debakel um Emma lernen können
- KI-Influencer sollten ebenso wie echte Influencer eine authentische Persönlichkeit darstellen und mit einer Hintergrundgeschichte, persönlichen Details und potenziellen Ähnlichkeiten aufwarten, mit denen sich eine Zielgruppe identifizieren könnte.
- Die Wirkung potenzieller KI-Influencer:innen sollte vorab in geschlossenen Usergroups getestet werden, um sicherzustellen, dass deren Erscheinungsbilder kein Unbehagen erzeugen
- Dazu müssen die KI-Influencer:innen entweder die Menschenähnlichkeit so perfekt darstellen, dass sie von einem echten Menschen nicht mehr zu unterscheiden sind, oder sehr deutlich als Kunstfigur ohne Menschenähnlichkeit dargestellt werden. (Super Mario würde niemand seine fehlende Menschenähnlichkeit vorwerfen.)
- Ist die Zielgruppe offen für KI-Influencer:innen oder erfordert das Thema eher menschliche Influencer:innen?
- Nutzwert bieten: Im Falle von Emma ist dieser noch ziemlich begrenzt, die Chatfunktion liefert mangelhafte und uninspirierte Antworten. Dabei gäbe es sinnvolle Einsatzzwecke für eine KI, beispielsweise zur personalisierten Reiseplanung.
- First-Mover-Effekt nicht überschätzen: KI-Influencer:innen ohne großen Nutzwert einzuführen, erzeugt Aufmerksamkeit, die aber schnell zu einem Debakel führen kann und die Marke langfristig negativ im Kopf der Zielgruppe verankert.
- Deshalb: Keine frühen Entwicklungsstadien veröffentlichen, ein KI-Chatbot muss ausgereift sein und ausreichend getestet werden.
Wer sind die Macherinnen und Macher, die 2024 prägen? ... Hier findest Du die W&V 100 Köpfe 2024.
Wenn du KI-Tools verstehen und in deine Arbeit erfolgreich anwenden willst, bist bei den Fortbildungsangeboten von W&V genau richtig. Hier gehts zu unseren Hands-on-Trainings.
