Eröffnung & Icebreaker: Chatbots & Conversational AI im Wandel / Tag 2

Eröffnung & Icebreaker: Chatbots & Conversational AI im Wandel / Tag 2
Mitschnitt-Länge: 20 Minuten
Präsentationsunterlagen verfügbar
Mitschrift verfügbar

Integration von Large-Language-Models in Conversational AI: Herausforderungen und Potenziale für Governance und Testing im Enterprise-Kontext.

Björn Negelmann eröffnet den zweiten Tag der Shift/CX Chatbot & Conversational Experiences Konferenz 2024 mit einem Fokus auf die Integration von Large-Language-Models in Conversational AI-Plattformen. Der Beitrag richtet sich an Verantwortliche für digitale Transformation in großen Unternehmen und Projektleiter in B2B-SaaS-Umgebungen. Im Mittelpunkt stehen die Herausforderungen und Potenziale, die sich aus der Nutzung dieser Modelle ergeben, insbesondere im Hinblick auf Governance und Testing-Prozesse. Negelmann bietet einen Überblick über die technologische Weiterentwicklung und die Notwendigkeit, die Kontrolle über die Dialogführung zu behalten, während gleichzeitig flexiblere und personalisierte Interaktionen ermöglicht werden.


Negelmann betont, dass die Integration von Large-Language-Models die Dialogführung in Chatbot-Projekten flexibler gestaltet, jedoch die Kontrolle nicht übernehmen sollte. Er hebt die Bedeutung von Governance und der Integration von Domainwissen hervor, um spezifische Wissenseinheiten in die Dialoge einzubinden. Die fehlende Deterministik der Sprachmodelle stellt eine Herausforderung dar, weshalb Testing und kontinuierliche Optimierung der Prompts essenziell sind. Negelmann empfiehlt einen Reverse-Engineering-Ansatz zur Verbesserung der Modelle und betont die Notwendigkeit, sich mit den dynamischen Entwicklungen der Technologie auseinanderzusetzen. Die Diskussion am Konferenztag soll sich auf Projektmanagement, Mitarbeitereinbindung und die Ausgestaltung von Governance-Strukturen konzentrieren, um die Herausforderungen der Conversational AI erfolgreich zu bewältigen.

Die Integration von Large-Language-Models in Conversational AI-Plattformen ist technologisch kein Problem mehr, aber die Kontrolle über die Dialogführung muss bei uns bleiben, besonders im Enterprise-Bereich. – Björn Negelmann


Die Herausforderung besteht darin, dass Sprachmodelle keine deterministischen Antworten liefern, was die Notwendigkeit von intensivem Testing und Optimierung der Prompts erhöht. – Björn Negelmann


Das Conversational Design erfordert mehr Data Science Kompetenz, da jede neue Modellvariante zu unterschiedlichen Ergebnissen führen kann, was umfassendes Testing notwendig macht. – Björn Negelmann

  • Large-Language-Models ermöglichen flexiblere Dialogführung, sollten aber nicht die Kontrolle über den Dialog übernehmen.
  • Governance und Domain Knowledge Integration sind entscheidend für den Erfolg von Conversational AI-Projekten.
  • Testing und kontinuierliche Optimierung der Prompts sind essenziell, da Sprachmodelle keine deterministischen Antworten liefern.
  • Personalisierung und kontextsensitive Interaktionen sind zentrale Erwartungen der Nutzer an moderne Chatbots.
  • Die Dynamik und Weiterentwicklung von Technologien erfordert flexible und hybride Ansätze in Projekten.

Die Integration von Large-Language-Models (LLMs) in Conversational AI-Plattformen stellt für Enterprise-Unternehmen eine strategische Herausforderung dar, die weit über technologische Fragen hinausgeht. Im Spannungsfeld zwischen der Flexibilität, die LLMs bieten, und der Notwendigkeit, die Kontrolle über die Dialogführung zu behalten, offenbart sich ein grundlegender Zielkonflikt. Unternehmen müssen abwägen, wie viel Autonomie sie den Modellen zugestehen, ohne die strukturelle Integrität ihrer Kommunikationsprozesse zu gefährden. Diese Balance ist entscheidend, um die Erwartungen an personalisierte und kontextsensitive Interaktionen zu erfüllen, ohne die Governance-Strukturen zu unterminieren. Die Diskussion um die Rolle von LLMs in der Dialogführung verdeutlicht zudem einen blinden Fleck: die oft unterschätzte Komplexität der Integration von Domainwissen und die damit verbundenen Verantwortungsverschiebungen innerhalb von Projektteams.


Aus dem Beitrag ergeben sich klare Handlungsprinzipien für die Praxis: Die kontinuierliche Optimierung von Prompts und Testing-Prozessen ist unerlässlich, um die Unvorhersehbarkeit der Sprachmodelle zu managen. Unternehmen sind gefordert, ihre Governance-Strukturen zu überdenken und flexibel anzupassen, um den dynamischen Entwicklungen der Technologie gerecht zu werden. Diese Reflexionsimpulse verschieben die Perspektive von einer rein technologischen zu einer strategisch-kulturellen Betrachtung der Conversational AI. Die Zielgruppe wird aufgefordert, bestehende Prozesse kritisch zu hinterfragen und offen für hybride Ansätze zu sein, die sowohl technologische als auch organisatorische Innovationen integrieren. Der Beitrag leistet somit einen wesentlichen Beitrag zur Weiterentwicklung des Themas, indem er die operative Praxis mit strategischen Zielen und dem notwendigen kulturellen Wandel in Beziehung setzt.

Der Zugriff auf das Video umfasst eine textuelle Aufarbeitung, die bereits mit einem Freemium-Account zugänglich ist.

Jetzt direkten Zugang freischalten!

Registriere Dich für einen Freemium-Zugang für die Shift/CX Plattform und erhalte direkten Zugang zum Mitschnitt und der Dokumentation.

Darüber hinaus bietet der Freemium-Account folgendes:
  • Zugang zu allen Freemium-Inhalten der Mediathek
  • Drei Credits für Freischaltung von Premium-Inhalten
  • Monatlicher Content-Newsletter mit redaktionell freigeschalteten Premium-Inhalten
  • Zugang zu geschlossener Linkedin-Gruppe
  • Besondere Plattform-Angebote
  • Kostenlos für immer!

Jetzt registieren & Zugang erhalten: