Willkommen zur Artikelserie „KI in der Praxis“, in der wir die grundlegenden und fortgeschrittenen Aspekte dieser innovativen Technologien beleuchten. Diese Serie wird Ihnen einen fundierten Überblick über die einzelnen Facetten liefern und dazu beitragen, Ihre Kompetenz in diesem dynamischen Feld zu erweitern.

KI nervt! Ihr ist das egal. Kein Unternehmen, keine Veranstaltung, kein Tischgespräch, das nicht vom Hype Train künstliche Intelligenz erfasst wird. Für viele in der Softwareentwicklung sind diese Themen nichts Neues. Wir arbeiten schon seit Jahren mit Chatbots, Prediction und KI-Modellen. Und doch, diesmal ist es etwas anders als beim Big-Data-, Blockchain- oder NFT-/Web3-Hype. KI ist keine Mode, die morgen vorbei ist, sondern der neue Normalzustand, mit dem wir auf allen Ebenen tagtäglich umzugehen haben. Durch ChatGPT wurde die Technologie buchstäblich von einem Tag auf den anderen massentauglich und die Beschleunigung in der Entwicklung ist exponentiell, wie wir mittlerweile wissen. Mit jedem Schritt ergeben sich neue Fragen zur Ethik, zur rechtlichen Verantwortung und zu den neuen Möglichkeiten. Antworten gibt es in Relation immer weniger. Zeit, aufzuholen!

Ethik und rechtliche Fragestellungen in KI und LLMs

Die Frage der Ethik in künstlicher Intelligenz (KI) und Large Language Models (LLMs) ist mehr als nur philosophischer Stoff zum Nachdenken. Sie ist realitätsnahe Herausforderung, die jeden Aspekt Ihrer Arbeit berührt – vom Code bis hin zur Entscheidungsfindung, vom Content bis zur Corporate Identity. Sie ist das unsichtbare Kontrollgitter, das bestimmt, wie KI und LLMs aufgebaut und weiterentwickelt werden. Doch damit dieses Gitter nicht am Ende zu einem Gefängnis wird, muss viel passieren. Der vorliegenden Artikel ist der erste Teil einer Serie zum Thema KI. Gemeinsam mit Experten aus unterschiedlichen Fachbereichen werde ich die essenziellen Fragestellungen streifen und Lösungsansätze für die Entwicklung, Verwendung und den Einsatz der Technologien aufzeigen. In diesem Teil widmen wir uns vorrangig der Ethik und dem damit verbundenen Dilemma für uns in der Entwicklung.

In diesem Artikel wird Prof. Dr. Patrick Glauner einen Einblick in und seine Einschätzung zu den aktuellen Entwicklungen rund um den EU AI Act [1] geben. In den nächsten Ausgaben widmen wir uns dann den Themen Datenschutz, Einsatzmöglichkeiten und Praxisbeispielen in der KI-Entwicklung.

Die Bedeutung der Ethik in KI

Die Auswirkungen generativer AI wie ChatGPT und Bard sind bereits jetzt spürbar. Insbesondere im Contentbereich bemerkt man in den sozialen Medien die massive Zunahme von Inhalten, die mit KI-Unterstützung erstellt wurden. Das ist in zweierlei Hinsichten ein Paradigmenwechsel. Zum einen verschiebt sich das gesellschaftliche Gleichgewicht noch stärker durch die zugrundeliegenden Algorithmen im Netz, da der Content wie ein Verstärker wirkt. Zum anderen geht mit den Technologien ein gravierender Verlust von Vertrauen einher. Es wird immer schwieriger, Informationen zu differenzieren. Fake Content gefährdet unsere Gesellschaft massiv. Eine Studie von Europol geht davon aus, dass der Anteil von KI-generiertem Content im Netz bis 2026 auf bis zu 90 Prozent [2] ansteigen wird. Somit spielt das Thema Ethik in der Entwicklung eine Schlüsselrolle, denn sie ist die Basis für den Content, den wir künftig sehen, lesen und hören werden.

Drei weitere wichtige ethische Herausforderungen sind die folgenden:

1. Datenschutz: Insbesondere LLMs sammeln, verarbeiten und produzieren extreme Datenmengen. Es ist wichtig, sicherzustellen, dass Daten effektiv geschützt werden können und die Privatsphäre der Nutzer respektiert wird.

2. Autonomie: KI-Systeme werden immer autonomer, vor allem im Bereich unserer kritischen Infrastruktur. Wie viel Raum können und wollen wir der Technologie geben, selbstständige Entscheidungen zu treffen?

3. Kontrolle: Mit zunehmender Autonomie braucht es menschliche Kontrolle bzw. Möglichkeiten, nachzuvollziehen, was zu bestimmten Entscheidungen seitens der KI geführt hat.

Unsere Hypothese ist, dass, kurzfristig und rein oberflächlich betrachtet, die meisten Menschen erste direkte Auswirkungen eher als positiv wahrnehmen werden. Besserer Content, bessere Beratung, bessere Entscheidungshilfe, schnellere Informationen etc. sind nur einige der Benefits, die bereits jetzt spürbar sind.

Die langfristigen Auswirkungen sind derzeit schwerer absehbar. Klar ist, dass es in vielen Bereichen der Gesellschaft, der Politik, der Medien und des Arbeitsmarkts zu massiven Veränderungen durch die Technologien kommen wird. Es gilt in jedem Fall zu verhindern, dass wir große Teile der Gesellschaft abhängen. Beispielsweise indem wir Systeme betreiben oder nutzen, die die soziale Ungerechtigkeit verschärfen, insbesondere durch direktes oder indirektes Social Scoring, also der Punktevergabe für Verhaltens- und Sozialdaten.

Ethik in der Softwareentwicklung

Die Entwicklung und der Einsatz ethischer KI und LLMs erfordert einen bewussten Ansatz, der über die rein technischen Aspekte hinausgeht. Es bedeutet für Sie, dass Sie in allen Phasen des Entwicklungsprozesses – von...