Sie sehen das Thema Chatbots durchaus kritisch und sprechen in diesem Zusammenhang von „guten” und „bösen” Bots. Wann ist ein Bot gut, wann böse?
Bei dem Wort „bad“ würde ich gerne unterscheiden wollen, denn im Englischen kann es zum einen „schlecht“, zum anderen „böse“ bedeuten. Wenn zum Beispiel ein Bot einer tollen NGO schlecht gemacht ist, ist das schade. Wenn ein Unternehmen unlautere Wettbewerbspraktiken bei der User Experience umsetzt, etwa in Form eines Bots, dann finde ich das ethisch bedenklich – oder eben böse.
Um ein analoges Beispiel für eine unlautere Wettbewerbspraxis zu bringen: Sie kommen in mein Geschäft und ich versperre Ihnen die Tür, bis Sie etwas kaufen. Ähnliche Kniffe lassen sich auch rhetorisch bei automatisierten Dialogsituationen einsetzen. Das wird insbesondere dort kritisch, wo Menschen auf Hilfe oder eine Lösung ihres Problems dringend angewiesen sind, zum Beispiel im Gesundheitswesen.
Was gut oder schlecht ist, bemisst sich auch immer nach eigenem ethischen Empfinden. Was sind wünschenswerte ethische Kriterien beim Einsatz von Chatbots?
Ich würde mich nicht auf mein ethisches Empfinden oder das meiner KollegInnen verlassen. Dafür gibt es Methoden und exzellent ausgebildete Leute. Ein Corporate Design wird zudem kaum nach ethischem Empfinden einzelner Menschen, sondern in einem langen Prozess entwickelt und getestet. Was wir brauchen, ist ein „Ethischer Design-Thinking-Prozess“, aus dem dann Leitlinien hervorgehen. Und das Bewusstsein dafür, dass damit der Welt und langfristig auch dem Unternehmen etwas Gutes getan wird.
Sie setzen der Customer Centricity die Humanity Centricity entgegen. Was verstehen Sie darunter?
Manche Unternehmen sprechen sogar von „Customer Obsession“. Sie sind also besessen davon, das Erlebnis der NutzerInnen magnetisch zu gestalten und sich dabei eng an der menschlichen Kognition zu orientieren. Bei so etwas muss ich immer wieder schmunzeln, denn das kann nicht das einzige Ziel unserer Arbeit sein! Natürlich verfolgen wir mit unserer Arbeit wirtschaftliche Ziele, aber nicht um jeden Preis. Es gibt mittlerweile Digital Ethics, Digital Humanities und Technologiefolgenabschätzung an Universitäten. Davon halte ich sehr viel. Ich finde es wichtig, unser wirtschaftliches Tun in größeren Kontexten zu bewerten.
Den Vortrag von Maggie Jabczynski auf der letzten Chatbot & Conversational Experience Konferenz und alle anderen Vorträge gibt es in unserer Mediathek.
Wo stehen Unternehmen Ihrer Erfahrung nach bei diesen (ethischen) Einsatzkriterien? Sind sie offen dafür?
Ich glaube, wenn Unternehmen ihr Tagesgeschäft erledigt haben, brauchen sie in diesen Belangen mehr Orientierung. Was ich oft noch sehe, sind Lippenbekenntnisse mit viel Hype drumherum. Es ist auch nicht leicht nachprüfbar, ob ein Unternehmen wirklich nachhaltig produziert, geschweige denn digital nachhaltig oder eben „humanity centric”, ohne sich damit genauer auseinanderzusetzen.
Bei der Entwicklung von Bots sind Technologie-ExpertInnen vorne dabei. Welche alternativen Disziplinen sollten noch mit ins Boot genommen werden?
Ich selbst bin Anthropologin und Linguistin und fühle mich hier sehr wohl. Ich kann mir vorstellen, dass beispielsweise auch SozialwissenschaftlerInnen, die ihre Forschungsmethoden auf UX Design Research ausweiten, hier sehr schnell Anschluss finden können. Einige der besten Bot-GestalterInnen kommen aus der Film- und Mediengestalterszene. Vor allem aber Menschen, die mit Menschen arbeiten, haben hier ganz viel Wertvolles beizutragen.
Wagen Sie einen Blick in die Glaskugel: Wo werden wir in fünf Jahren beim Thema Chatbots und Conversational AI stehen?
Ich bin überzeugt, dass wir bewusster mit Technologie umgehen werden, sowohl als Produzierende, als auch als Konsumierende. Was ein geeigneter Use Case für einen Chatbot ist und was nicht, wird in fünf Jahren anders bewertet werden. Da wird sich niemand mehr scheuen auch mal anzuerkennen, dass es im Einzelfall keiner ist. Das Feld öffnet sich für viele Disziplinen. Ich denke, wir werden ganz neue, tolle Ideen sehen, die dort, wo es wichtig ist, Abhilfe durch Automatisierung schaffen. Die, um es mit Frithjof Bergmann zu sagen, Menschen wieder Arbeit machen lassen, die für Menschen ist. Das meine ich auch jenseits von Conversational AI.
