KI-Roulette - Eine grobe Orientierung von erlaubten und nicht erlaubten KI-Anwendungen

Mit der bevorstehenden KI-Verordnung der Europäischen Union wird die tägliche Arbeit mit Künstlicher Intelligenz (KI) noch komplexer. Einige mögliche KI-Anwendungen könnten auf einer schwarzen Liste landen, während andere unangetastet bleiben, aber in gewisser Weise nutzen beide Anwendungen dieselbe Technologie. Es fühlt sich an wie ein KI-Roulette. Das Ganze kann bereits bei der Konzeption möglicher KI-Anwendungen zu Unsicherheiten führen: Ist meine KI-Idee erlaubt? Diese Frage kommt derzeit oft auf. Meine Kolleginnen und Kollegen werden häufig von Kundinnen und Kunden gefragt, ob wir ihnen nicht ein Ordnungs- oder Orientierungssystem an die Hand geben könnten. Aufbauend beziehungsweise in Anlehnung an die jahrelangen wertvollen Vorarbeiten und den Erfahrungsschatz unter anderem von Accenture, Daugherty und Wilson, Human + Machine sowie Artificial Intelligence and the Future of Work, haben wir von adesso das Konstrukt um die neuesten Entwicklungen, nämlich die Komponente der KI-Regulierung in Form der europäischen Verordnung zu Künstlicher Intelligenz (EU-KI-VO), angereichert.

Bestandteile von KI

Paul Daugherty und James Wilson haben in ihrem Buch „Human+Machine“ KI-Technologien hinsichtlich ihrer operativen Anwendungsmöglichkeiten in drei Komponenten eingeteilt:

Machine Learning (ML)

Die erste Komponente bezieht sich auf maschinelles Lernen (ML) – zu sehen in dem inneren Kreis der unten gezeigten Grafik. ML ist ein Teilgebiet der Informatik, das sich mit Algorithmen beschäftigt, die aus Daten lernen und Schlussfolgerungen über Zusammenhänge ziehen können, ohne explizit dafür programmiert zu sein. Hinsichtlich des Lernens können vier verschiedene Lernstrategien unterschieden werden:

• Supervised Learning (überwachtes Lernen),
• Unsupervised Learning (unüberwachtes Lernen),
• Semi-Supervised Learning (semiüberwachtes Lernen) und
• Reinforcement Learning (verstärkendes Lernen).

Darüber hinaus lässt sich auch eine gröbere Zweiteilung vornehmen, wobei insbesondere die Form des Deep Learning (neuronales Netz) hervorsticht, die hinsichtlich der Informationsverarbeitung einem biologischen Nervensystem ähneln soll. Alles, was nicht dem Deep Learning entspricht, wird unter Shallow Learning subsumiert.

KI-Fähigkeiten

Die zweite Komponente bezieht sich auf KI-Fähigkeiten – zu sehen im mittleren Kreis der Grafik. Beispielsweise sind die heutigen bahnbrechenden Anwendungen in der Verarbeitung unstrukturierter Daten in der Bild- und Sprachverarbeitung insbesondere dem Ansatz des Deep Learning zu verdanken. Diese Anwendungen ermöglichen die maschinelle Ausführung von Fähigkeiten wie Computer Vision, die Verarbeitung natürlicher Sprache oder die Verarbeitung von Audiosignalen. Die Verarbeitung mit tabellarischen Daten ermöglicht Fähigkeiten in Bezug auf prädiktive Systeme oder Optimierung.

Anwendungsbereiche von KI

Die dritte Komponente umfasst Anwendungsbereiche von KI – von außen im zweiten Kreis zu sehen. So können mit den erworbenen Fähigkeiten in der Verarbeitung natürlicher Sprache beispielsweise intelligente Agenten oder kollaborative Roboter entwickelt werden. Besonders hervorgetan haben sich dabei große Sprachmodelle oder unter dem Begriff Fundamental Models subsumierte Modelle, die generalistisch mit sehr großen Datenmengen trainiert werden und so ein allgemeines Weltwissen bereitstellen. Dieses kann wiederum für verschiedene Anwendungen genutzt werden.

Einfluss der EU-KI-VO auf KI-Bestandteile

Die KI-Verordnung der Europäischen Union wird sich vor allem mit den Risiken befassen, die sich aus dem Einsatz Künstlicher Intelligenz in bestimmten Szenarien ergeben (siehe äußerer Kreis der Grafik). Dies betrifft zum einen Systeme im Bereich der inneren und äußeren Sicherheit (siehe grün umrandete Kästen). Dazu zählen unter anderem:

• die biometrische Echtzeitanalyse, die vornehmlich auf Anwendungen beruht und die auf Fähigkeiten von Computer Vision zurückzuführen sind (EU-KI-VO, Annex III, 1),
• die Strafverfolgung, die sowohl durch Computer Vision, Sprachverarbeitung oder auch durch Auswertung von tabellarischen Daten realisiert werden kann (EU-KI-VO, Annex III, 6),
• die Rechtsprechung beziehungsweise die demokratischen Prozesse, die hauptsächlich durch Sprachverarbeitungen realisiert werden dürfen (EU-KI-VO, Annex III, 8) sowie
• Grenzkontrollen, die vermutlich häufig mit Computer Vision oder Auswertungen von tabellarischen Daten ausgeführt werden (EU-KI-VO, Annex III, 7).

Andere Szenarien ergeben sich in Bereichen der kommerziellen Verwendung (siehe rot umrandete Kästen), die häufig mit dedizierten Entscheidungssystemen entstehen. Dazu zählen:

• das Management von kritischen Infrastrukturen mit Sicherheitskomponenten (EU-KI-VO, Annex III, 2),
• die Zugänglichkeit zu essenziellen Dienstleistungen (EU-KI-VO, Annex III, 5) sowie
• die Anwendung zur Steuerung, Selektion oder Incentivierung von Mitarbeitenden (EU-KI-VO, Annex III, 5).

Darüber hinaus sind Anwendungen über die Ausbildungsmöglichkeiten beziehungsweise Zugänge (EU-KI-VO, Annex III, 3) und Fundamentalmodelle (Artikel 28b) als solche von der EU-KI-VO betroffen (siehe orange umrandete Kästen).

Ausblick

Angesichts der bevorstehenden EU-KI-VO ist es wichtiger denn je, die verschiedenen Aspekte von KI über die rein technologische Machbarkeit hinaus und ihre Auswirkungen zu verstehen. Die KI-Verordnung wird sich vor allem mit den Risiken befassen, die mit der Nutzung von KI in bestimmten Szenarien verbunden sind. Es ist von entscheidender Bedeutung, diese Risiken frühzeitig zu erkennen und entsprechend klug zu navigieren, um sicherzustellen, dass KI-Ideen nicht von Anfang an zum Scheitern verurteilt sind.

Das KI-Roulette, das ich beschrieben habe, mag beängstigend erscheinen, aber es ist kein Zufallsspiel. Mit Prävention, Wissen und der richtigen Ausrichtung können wir sicherstellen, dass eure KI-Projekte nicht nur die Kriterien der KI-Verordnung erfüllen, sondern auch wirklich innovativ und von Nutzen für die Gesellschaft, für euer Unternehmen oder sogar für eure Mitarbeitenden sind. Letztlich geht es nicht nur um Glück, sondern auch um Wissen und strategisches Vorgehen.

Auf unserer Website findet ihr alles über die KI-Aktivitäten bei adesso. Erfahrt mehr darüber, wie KI euch bei eurer täglichen Arbeit helfen kann und welche Lösungen unsere Expertinnen und Experten für euch parat haben.

Weitere spannende Themen aus der adesso-Welt findet ihr in unseren bisher erschienenen Blog-Beiträgen.

Auch interessant:

• Trustworthy AI – das ganzheitliche Gerüst und was davon zukünftig geprüft wird
• Buzzword Bingo KI: Die wichtigsten Begriffe um bei KI mit reden zu können
• Eine kurze Einführung in die automatische Dokumentenverarbeitung mit Large Language Models
• Stable Diffusion - Eine Einführung
• Was sich durch gesetzgebende Initiativen ändern wird und welche Auswirkungen dadurch auf unsere KI- und Datenvorhaben zu erwarten sind