Wir sprachen mit Taimur Rashid, Chief Business Development Officer bei Redis, über die Möglichkeiten und Grenzen von generativer KI und Deep-Learning-Modellen für Entwickler:innen. Wo sollten Grenzen gesetzt werden? Wie kann die Produktivität verbessert werden? Und was sind die Vor- und Nachteile der derzeitigen generativen KI?

entwickler.de: Wie funktioniert generative KI im Kern? Wo speichert generative KI Daten und woher bezieht sie diese? Kannst du uns den Prozess anhand eines typischen Falles erläutern?

Taimur Rashid: Im Kern verwendet die generative KI, die gemeinhin GPT-3, GPT-4 usw. genannt wird, Deep-Learning-Modelle. Mit großen Datenmengen werden diese Modelle trainiert. Diese “Foundation Models” lernen Muster und Beziehungen innerhalb des Datensatzes und können auf der Grundlage dieses Wissens neue Inhalte generieren. Die Daten werden in der Regel in großen Datenbanken oder Speichersystemen gespeichert. Während des Trainings werden die Daten dem KI-Modell in Stapeln zur Verfügung gestellt, und das Modell verarbeitet jeden Stapel. So lernt es aus den Mustern in den Daten und passt seine internen Parameter an, um besser realistische und kohärente Ergebnisse zu erzeugen.

Der Prozess der generativen KI umfasst mehrere wichtige Schritte. Zunächst wird das KI-Modell auf einem vielfältigen Datensatz trainiert, der als Grundlage für das Lernen von Mustern und die Generierung neuer Inhalte dient. Eine geeignete generative Modellarchitektur, zum Beispiel ein tiefes neuronales Netz, wird ausgewählt, damit diese Muster effektiv erfasst werden. Der Trainingsprozess beginnt mit einer zufälligen Initialisierung der Parameter, danach sagt das Modell das nächste Wort oder die nächste Wortfolge auf der Grundlage des gesehenen Kontexts voraus (bei großen Sprachmodellen). Die Parameter des Modells werden mit Hilfe von Optimierungstechniken angepasst, um die Vorhersagefehler zu minimieren. Dieser iterative Trainingsprozess wird über mehrere Zeitabschnitte hinweg fortgesetzt, um das Verständnis des Modells für komplexe Muster zu verfeinern. Die Leistung des Modells wird anhand eines separaten Validierungsdatensatzes bewertet, um seine Fähigkeit zur Generalisierung zu gewährleisten. Darüber hinaus wird die Generierungsfähigkeit des Modells durch den Einsatz von Verstärkungslernen mit menschlichem Feedback verbessert und fein abgestimmt. Sobald das Modell trainiert ist, kann es zur Generierung neuer Inhalte verwendet werden. Es nimmt eine Eingabe bzw. einen Prompt entgegen und kann auf der Grundlage seines erlernten Wissens eine Antwort erzeugen. Bei der Generierung der Antwort werden Stichproben aus der Wahrscheinlichkeitsverteilung des Modells gezogen, wodurch vielfältige und kreative Inhalte erstellt werden können.

entwickler.de: Was sind deiner Meinung nach die besten Anwendungsfälle in einem Unternehmen? Wo siehst du die größten Erfolgschancen für Unternehmen (insbesondere in welchen Bereichen)?

Taimur Rashid: Generative KI hat das Potenzial, Unternehmen in verschiedenen Bereichen zu unterstützen: Sie bietet kreative Lösungen an, automatisiert Aufgaben, generiert neue Inhalte und verbessert vielfach die Entscheidungsprozesse von Fachkräften und Frontline-Mitarbeitern. Der konkreten Anwendungsfall hängt von den Geschäftszielen, den verfügbaren Daten und den branchenspezifischen Anforderungen ab. Es gibt bereits Bereiche, in denen sich generative KI bewährt:

• Generierung von Inhalten: Generative KI kann Inhalte wie Artikel, Blogbeiträge, Produktbeschreibungen und Beiträge für soziale Medien erstellen. In Unternehmen kann dies Zeit und Ressourcen sparen, die sonst mit Content Marketing und Werbung beschäftigt sind.

• Virtuelle Assistenten und Chatbots: Generative KI kann virtuelle Assistenten und Chatbots betreiben, die es Unternehmen ermöglichen, personalisierten Kundensupport anzubieten, allgemeine Anfragen zu beantworten und Routineaufgaben zu erledigen. Dies kann den Kundenservice verbessern und gleichzeitig die Kosten senken.

• Personalisierungs- und Empfehlungssysteme: Generative KI kann das Verhalten und die Vorlieben von Nutzern analysieren, um personalisierte Empfehlungen im E-Commerce, Medien-Streaming und anderen Bereichen zu generieren. Dies kann die Kundenzufriedenheit verbessern, den Umsatz steigern und das Engagement der Nutzer fördern.

• Software-Entwicklung: Generative KI revolutioniert die Softwareentwicklung durch die Automatisierung sich wiederholender Aufgaben, die Verbesserung der Codequalität, die Beschleunigung des Entwicklungsprozesses und die Verbesserung der allgemeinen Benutzererfahrung. Sie ermöglicht es Entwickler:innen, sich auf übergeordnete Aufgaben zu konzentrieren und effizientere, robustere und benutzerfreundlichere Softwareprodukte zu entwickeln.

• Forschung und Entwicklung: Generative KI kann die wissenschaftliche Forschung, die Entdeckung von Medikamenten und die Materialentwicklung unterstützen, indem sie Hypothesen generiert, den chemischen Raum erforscht und Versuchspläne optimiert. Sie kann Innovationen beschleunigen und Entdeckungen in komplexen Bereichen erleichtern.

Generative KI hat das Potenzial, Unternehmen in verschiedenen Bereichen zu unterstützen: Sie bietet kreative Lösungen an, automatisiert Aufgaben, generiert neue Inhalte und verbessert vielfach die Entscheidungsprozesse von Fachkräften und Frontline-Mitarbeitern.

entwickler.de: Wo überschneiden sich Daten und generative KI? Wie wird sie da eingesetzt?

Taimur Rashid: Daten spielen in der generativen KI eine entscheidende Rolle, da sie als Trainingsmaterial für die Modelle dienen. Die Modelle werden auf großen Datensätzen trainiert, die bereits solche Inhalte enthalten, die sie später erzeugen sollen.

Während des Trainingsprozesses nimmt das generative KI-Modell die Muster und Strukturen in den Daten auf, um die zugrunde liegenden Merkmale zu lernen und zu verstehen. Es erfasst statistische Regelmäßigkeiten, Beziehungen und Abhängigkeiten, die in den Trainingsdaten vorhanden sind. Mit diesem erlernten Wissen werden neue Inhalte generiert, die in Stil oder Struktur den bereitgestellten Beispielen ähneln.

Bei großen Sprachmodellen sind der andere Bereich die "Prompt"-Daten, d. h. die Eingaben, die einem generativen KI-Modell zur Verfügung gestellt werden, um die gewünschte Aufgabe zu spezifizieren oder seine Ausgabe zu steuern. Im Falle von Sprachmodellen können Prompts Textausschnitte oder Anweisungen sein, die beim Modell eine bestimmte Antwort hervorruft. Diese Prompts geben den Kontext vor und leiten die Generierung des Modells.

entwickler.de: Was ist neben dem Datenmanagement die interessanteste und vielversprechendste Anwendung generativer KI, die du in einem Unternehmen gesehen hast?

Taimur Rashid: Das Erzeugen von kreativen Inhalten ist ein faszinierender Bereich der generativen KI. Diese Art umfasst verschiedene Formen von Inhalten, einschließlich Kunst, Musik und sogar Schrift.

Es gibt zum Beispiel Unternehmen, die generative KI-Algorithmen für die Produktion von visueller Kunst nutzen. Diese Algorithmen können aus einer riesigen Menge vorhandener Kunstwerke lernen und auf der Grundlage der erlernten Muster und Stile neue, einzigartige Werke erstellen. Künstler:innen können diese generierten Kunstwerke dann als Inspirationsquelle oder als Ausgangspunkt für weitere Kreativität nutzen. Im Bereich des Schreibens wurde generative KI zur Unterstützung beim Erstellen von Inhalten eingesetzt, z. B. zur Erstellung von Artikeln, Produktbeschreibungen und sogar ganzen Geschichten. Durch das Training mit großen Mengen von Textdaten können diese Modelle kohärente und kontext relevante schriftliche Inhalte erstellen.

Ein weiteres Beispiel: Dank großer Sprachmodelle (Large Language Models, LLMs) ist es jetzt möglich, eine Konversationserfahrung mit privaten, internen und domänenspezifischen Daten zu schaffen. Riesige Datenmengen sind meist unstrukturiert an Speicherorten gelagert und LLMs bieten eine Möglichkeit, Schlüsselwissen, Erkenntnisse und Informationen mit Leichtigkeit zu extrahieren.

Unternehmen müssen vorsichtig sein und Maßnahmen ergreifen, um mögliche ethische Probleme, die sich aus den generierten Inhalten ergeben, zu erkennen und dann zu entschärfen.

entwickler.de: Wo liegen die Grenzen der generativen KI in einem geschäftlichen Kontext? Wie sieht es in einem Datenbankkontext aus?

Taimur Rashid: Es gibt einige wichtige Einschränkungen für KI, die in die Kategorien Qualität, kontextuelles Verständnis und Ethik fallen.

Erstens können generative Modelle Ergebnisse produzieren, die nicht immer den gewünschten Qualitätsstandards entsprechen. Die generierten Inhalte können manchmal ungenau, irrelevant oder unsinnig sein. Dies erfordert eine sorgfältige Überwachung und menschliches Eingreifen, um die Zuverlässigkeit und Vereinbarkeit mit dem Geschäftszweck sicherzustellen. Zweitens hat die generative KI zwar große Fortschritte beim Verstehen und Generieren von Text gemacht, hat aber immer noch Probleme mit dem kontextuellen Verständnis. Die Modelle können komplexe Nuancen, idiomatische Ausdrücke oder subtile Hinweise nicht vollständig erfassen. Dies kann dazu führen, dass die generierten Texte nicht den richtigen Kontext, Tonfall oder das richtige Feingefühl haben. Schließlich kann generative KI unbeabsichtigt voreingenommene, beleidigende oder unangemessene Inhalte erzeugen. Die Modelle lernen aus den Daten, mit denen sie trainiert wurden. So kann es zu Verzerrungen führen, die aus den Trainingsdaten übernommen werden. Unternehmen müssen vorsichtig sein und Maßnahmen ergreifen, um mögliche ethische Probleme, die sich aus den generierten Inhalten ergeben, zu erkennen und dann zu entschärfen.

entwickler.de: Mit welchen Herausforderungen können Unternehmen in diesem Bereich rechnen? Gibt es irgendwelche langfristigen negativen Folgen, mit denen Unternehmen konfrontiert werden könnten?

Taimur Rashid: Generative KI birgt zwar immenses Potenzial, stellt Unternehmen aber auch vor einige Herausforderungen.

Eine erste Herausforderung ist die ethische Nutzung von KI-generierten Inhalten. KI-Systeme werden immer ausgefeilter, was bedeutet, dass eine Unterscheidung zwischen KI-generierten und von Menschen erstellten Inhalten zunehmend schwierig wird. Unternehmen stehen möglicherweise vor rechtlichen und regulatorischen Herausforderungen in Bezug auf das Eigentum und die geistigen Eigentumsrechte an KI-generierten Inhalten. Datenschutz und Datensicherheit sind weitere Probleme. Generative KI stützt sich häufig auf große Datensätze, die sensible Informationen enthalten können. Unternehmen müssen strenge Maßnahmen zum Schutz dieser Daten ergreifen, da jede Verletzung oder jeder Missbrauch zu schweren finanziellen und rufschädigenden Schäden führen kann.

Schließlich können die langfristigen negativen Folgen der generativen KI auch aus den unbeabsichtigten gesellschaftlichen Auswirkungen resultieren. Die weit verbreitete Nutzung von KI-generierten Inhalten und ihr Potenzial, äußerst realistische synthetische Medien zu erstellen, kann das Vertrauen in Informationsquellen untergraben. Die Glaubwürdigkeit authentischer Inhalte wird untergraben und der öffentliche Diskurs wird gestört. Dies kann zu erheblichen gesellschaftlichen Folgen führen, darunter politische Instabilität, soziale Polarisierung und ein schwindendes Vertrauen in Institutionen.

Aus den Trainingsdaten der KI-Modelle können Vorurteile entstehen, die zu diskriminierenden oder ungerechten Ergebnissen führen. Eine sorgfältige Kuratierung und Diversifizierung der Trainingsdaten sowie eine rigorose Bewertung der Modellergebnisse können dieses Problem entschärfen.

entwickler.de: Wie können wir diese Fallstricke vermeiden?

Taimur Rashid: Erstens muss man vorsichtig sein, um Verzerrungen in den Trainingsdaten zu vermeiden. Aus den Trainingsdaten der KI-Modelle können Vorurteile entstehen, die zu diskriminierenden oder ungerechten Ergebnissen führen. Eine sorgfältige Kuratierung und Diversifizierung der Trainingsdaten sowie eine rigorose Bewertung der Modellergebnisse können dieses Problem entschärfen. Zweitens sind Transparenz und Erklärbarkeit von entscheidender Bedeutung. Generative KI-Systeme arbeiten oft als "Black Boxes", was es schwierig macht, die zugrunde liegenden Entscheidungsprozesse zu verstehen. Um dem entgegenzuwirken, sollten interpretierbare KI-Modelle entwickelt und Mechanismen zur Erklärung der erzeugten Ergebnisse geschaffen werden.

Darüber hinaus müssen Bedenken hinsichtlich des Datenschutzes ernst genommen werden. Generative KI kann unbeabsichtigt sensible oder private Informationen generieren und so die Privatsphäre des Einzelnen gefährden. Um die Privatsphäre der Nutzer zu schützen, müssen robuste Datenschutzmaßnahmen, wie Anonymisierung und sichere Datenverarbeitung, eingeführt werden. Schließlich müssen rechtliche und ethische Erwägungen vorrangig berücksichtigt werden. Es sollten klare Richtlinien und Vorschriften für den Einsatz generativer KI aufgestellt werden, um potenziellen Missbrauch zu verhindern und die Verantwortlichkeit sicherzustellen.

Die Zusammenarbeit zwischen Forschern, politischen Entscheidungsträgern und Branchenexperten ist von entscheidender Bedeutung, um einen Rahmen zu schaffen, der ethische Standards aufrechterhält und das gesellschaftliche Wohlergehen schützt. Wenn wir uns proaktiv mit diesen Fallstricken auseinandersetzen, können wir die Vorteile der generativen KI maximieren und gleichzeitig ihre potenziellen Risiken minimieren.

entwickler.de: Wie siehst du bei deiner Arbeit, wie Entwickler:innen täglich mit generativer KI interagieren? Wie wird sie derzeit eingesetzt?

Taimur Rashid: Entwickler:innen integrieren generative KI zunehmend in ihre täglichen Arbeitsabläufe und nutzen ihre Fähigkeiten, um ihre Produktivität und Kreativität zu steigern. Eine wichtiges Einsatzfeld für generativer KI ist die Codegenerierung. Traditionell schreiben Entwickler:innen manuell Codes, um verschiedene Aufgaben auszuführen. Diese Arbeit ist zeitaufwändig und kann fehleranfällig sein.

Jetzt können Entwickler:innen nun die Leistung von Algorithmen des maschinellen Lernens nutzen, um automatisch Codeschnipsel oder sogar ganze Module zu generieren. Zum Beispiel können sie generative KI-Modelle verwenden, um Vorschläge zu machen, Code automatisch zu vervollständigen oder Boilerplate-Code auf der Grundlage bestimmter Anforderungen zu generieren. Dies beschleunigt den Entwicklungsprozess erheblich und ermöglicht es den Entwicklerinnen, sich mehr auf die Logik und die übergeordneten Aspekte ihrer Projekte zu konzentrieren.

Die Zusammenarbeit zwischen Forschern, politischen Entscheidungsträgern und Branchenexperten ist von entscheidender Bedeutung, um einen Rahmen zu schaffen, der ethische Standards aufrechterhält und das gesellschaftliche Wohlergehen schützt.

entwickler.de: Wie ist der allgemeine Eindruck, den die meisten Entwickler von diesen Lösungen haben? Werden sie gut angenommen, oder stoßen sie manchmal auf Skepsis oder Ablehnung?

Taimur Rashid: Der allgemeine Eindruck unter Entwicklerinnen ist gemischt, mit einer Kombination aus Begeisterung, Skepsis und vorsichtigem Optimismus. Viele Entwickler betrachten generative KI-Lösungen als leistungsstarkes Werkzeug, das verschiedene Aspekte der Softwareentwicklung automatisieren und erweitern kann. Sie sehen das Potenzial, die Produktivität zu steigern, den Entwicklungsprozess zu beschleunigen und die Kreativität bei Aufgaben wie der Codegenerierung, der Fehlerbehebung und dem Design der Benutzeroberfläche zu verbessern.

Einige Entwickler:innen machen sich jedoch Sorgen über die Qualität und Zuverlässigkeit des generierten Codes oder der Artefakte. Während KI die Produktivität und Kreativität steigert, können sie auch ethische Bedenken aufwerfen, insbesondere in Bereichen wie Plagiat, Verletzung geistigen Eigentums oder einseitiger Codegenerierung. Entwickler:innen befürchten, dass diese Lösungen die Originalität untergraben oder Lizenz- und Urheberrechte verletzen könnten.

entwickler.de: Welches Toolset sollten Unternehmen haben, um mit generativer KI und Datenmanagement zu arbeiten?

Taimur Rashid: Um die Vorteile der generativen KI zu nutzen, sollten Unternehmen sich an die üblichen Best Practices für MLOps in den Bereichen Datenmanagement, Training oder Feinabstimmung und Model-Deployment halten. Angefangen bei der Speicherung sollte ein Unternehmen Zugang zu einem Data Warehouse haben, das große Mengen an strukturierten oder unstrukturierten Daten verarbeiten kann.

Darüber hinaus wird ein Data-Serving-Layer mit geringer Latenz empfohlen, wie z. B. Redis, um Informationen in Echtzeit abrufen zu können. Je nach Sicherheitsbedenken wird ein Stack benötigt, der in der Lage ist, ein Gen-KI-Modell (wie ein LLM) zu hosten. Auf der Anwendungsebene bieten beliebte Entwicklungstools wie LangChain oder LlamaIndex einfache Möglichkeiten, um mit dem Bau von Gen-KI-Anwendungen zu beginnen.

Der allgemeine Eindruck unter Entwicklerinnen ist gemischt, mit einer Kombination aus Begeisterung, Skepsis und vorsichtigem Optimismus. Viele Entwickler betrachten generative KI-Lösungen als leistungsstarkes Werkzeug, das verschiedene Aspekte der Softwareentwicklung automatisieren und erweitern kann.

entwickler.de: Gibt es derzeit irgendwelche Missverständnisse über generative KI im Unternehmen, von denen du gehört hast und die du gerne ausräumen würdest? Ist der Hype deiner Meinung nach zu groß oder handelt es sich tatsächlich um einen neuen Schritt nach vorne?

Taimur Rashid: Generative KI stellt einen bedeutenden Fortschritt bei den KI-Fähigkeiten dar, aber es ist wichtig, mit einem ausgewogenen Verständnis ihres Potenzials und ihrer Grenzen an sie heranzugehen. Sie muss auf eine Weise genutzt werden, die mit ethischen und verantwortungsvollen Praktiken in Einklang steht. Ein Missverständnis ist, dass generative KI-Modelle fehlerfreie und völlig autonome Ergebnisse ohne menschliches Eingreifen produzieren können. Diese Modelle können zwar beeindruckende Inhalte erzeugen, aber sie sind nicht unfehlbar. Sie sind in hohem Maße von der Qualität und Vielfalt der Daten abhängig, auf denen sie trainiert wurden. Sie können Ergebnisse produzieren, die voreingenommen, ungenau oder unsinnig sind. Die Überwachung und Validierung durch den Menschen ist von entscheidender Bedeutung, um sicherzustellen, dass die Ergebnisse zuverlässig und auf die gewünschten Ziele ausgerichtet sind.

entwickler.de: Wohin wird sich diese Technologie deiner Meinung nach in den nächsten fünf Jahren entwickeln? Wie sieht die nahe Zukunft aus?

Taimur Rashid: Es wird erwartet, dass sich die generative KI in den nächsten fünf Jahren erheblich weiterentwickeln wird. Die Fortschritte bei den Algorithmen für maschinelles Lernen und sowie in der Rechenleistung werden eine anspruchsvollere und realistischere Generierung von Inhalten in verschiedenen Bereichen wie Text, Bilder und Musik ermöglichen. Dieser Fortschritt wird neue Möglichkeiten des kreativen Ausdrucks, der Automatisierung und der Problemlösung eröffnen.

Die zunehmende Leistungsfähigkeit der generativen KI wirft jedoch auch Bedenken hinsichtlich des Missbrauchs, der Verbreitung von gefälschten Inhalten und ethischer Implikationen auf. Um den Zweck der KI zu stärken und die Gefahren zu minimieren, wird mehr Gewicht auf die Entwicklung solider Rahmenbedingungen für den verantwortungsvollen Einsatz gelegt werden müssen. Strengere Vorschriften, verbesserte Transparenz und umfassende Richtlinien für die Datennutzung und das Modelltraining werden eingeführt werden müssen. Die Zusammenarbeit zwischen KI-Forschern, politischen Entscheidungsträgern und der Öffentlichkeit wird von entscheidender Bedeutung sein. Nur so kann sichergestellt werden, dass generative KI-Technologien in einer Weise entwickelt und eingesetzt werden, die mit gesellschaftlichen Werten in Einklang steht und positive Auswirkungen hat.