Digitale Assistenten in Unternehmen stehen vor der Herausforderung, sowohl menschenähnliche Konversationen zu ermöglichen als auch verlässliches, aktuelles Faktenwissen bereitzustellen. Der Talk von Dr. Jürgen Umbrich adressiert diese Anforderung aus der Perspektive von Data- und KI-Architektur und legt den Fokus auf die Kombination von Large Language Models (LLMs) und Knowledge Graphen. Im Zentrum steht die Frage, wie sich generative KI-Modelle wie ChatGPT mit domänenspezifischem, maschinenlesbarem Wissen verbinden lassen, um skalierbare, kontextbezogene und verifizierbare Conversational AI-Lösungen für B2B-SaaS- und Enterprise-Umgebungen zu realisieren. Praxisbeispiele aus dem Plattformbetrieb und die Einbindung von Tools wie OpenAI ChatGPT verdeutlichen die technische Umsetzung und die Anforderungen an Multikanalfähigkeit, Datenschutz und kontinuierliche Weiterentwicklung.
Im inhaltlichen Fokus stehen die Stärken und Grenzen von LLMs, insbesondere hinsichtlich Sprachverständnis, Aktualität und Verifizierbarkeit der Antworten. Knowledge Graphen werden als Schlüsseltechnologie für die Verwaltung und Validierung von Expertenwissen herausgestellt, die eine flexible Kombination von Allgemein- und Spezialwissen ermöglichen. Die Integration beider Ansätze erlaubt es, digitale Assistenten zu entwickeln, die Nutzeranfragen kontextsensitiv bearbeiten, faktenbasiert beraten und die Herkunft ihrer Antworten transparent machen. Die Diskussion um die Kennzeichnung generativer Antworten und die iterative Einführung von Conversational AI-Lösungen unterstreicht die Bedeutung von Transparenz, Nutzervertrauen und kontinuierlicher Optimierung im Unternehmenskontext.