Ein Chatbot halluziniert eine sehr großzügige Rückerstattungspolitik für einen Kunden, und ein Richter entscheidet, dass diese KI-Erfindung für das Unternehmen verbindlich ist. Ein Nutzer „überredet“ einen LLM, irgendetwas zu tun und erhält prompt Zugang zu sensiblen Daten. Beides sind Alptraumszenarien für ein Unternehmen. Doch mit dem großen Erfolg von Chatbots und LLM-Apps spielt die Integration von generativer KI in Geschäftsanwendungen heute eine zentrale Rolle in der Geschäftsstrategie vieler Unternehmen. In dieser Session wird Sebastian Gingter beleuchten, wie wir robuste LLM-basierte Lösungen entwickeln können, die sowohl innovativ als auch sicher sind. Wir werden reale Beispiele für Probleme in Anwendungen diskutieren, die direkt aus einem LLM entstehen, wie z.B. Halluzinationen oder Prompt-Injection-Angriffe. Du wirst sehen, welche Maßnahmen führende Anbieter ergriffen haben, um solche Risiken zu verhindern, und welche konkreten Möglichkeiten du hast, um generative KI in Schach zu halten und sie zu einem sicheren, vertrauenswürdigen und wertschöpfenden Teil deiner Produkte zu machen.