Die Symbiose von Regulatorik und Innovation – Regulatorik als Katalysator für KI im Finanzwesen?

Regulierung treibt KI-basierte Innovationen im Banking voran! Ihr habt nicht falsch gelesen. Auch wenn die Regulatorik mit strengen Vorschriften und Auflagen auf den ersten Blick als Innovationsbremse wahrgenommen wird, setzt sie in vielen Fällen die Spielregeln, die für Rechtssicherheit und Orientierung sorgen. Sie setzt damit stabile Rahmenbedingungen und schafft Vertrauen, das für die Entstehung von Innovationen förderlich ist. Regulierung kann somit auch als Katalysator für kreative Lösungen verstanden werden, die die Entwicklung innovativer KI-Anwendungen und Geschäftsmodelle im Bankgeschäft beflügeln können. Welche Impulse aus regulatorischer Sicht diese Symbiose stärken, werde ich in diesem Blog-Beitrag näher beleuchten.

KI nimmt Einzug in die Finanzwelt

Künstliche Intelligenz und maschinelles Lernen halten Einzug in die Finanzwelt und versprechen neue Wachstums- und Ertragschancen und damit vielfältige wirtschaftliche Möglichkeiten für Banken und Finanzdienstleister. So können durch Automatisierung und intelligente Technologien Prozesse optimiert, große Datenmengen ausgewertet, Informationen abgeleitet und Entscheidungen mit Hilfe von KI getroffen werden. Neben einer Reihe von betriebswirtschaftlichen und technologischen Vorteilen können diese Prozesse aber auch Risiken begünstigen oder zu Fehlentscheidungen führen, wenn hochautomatisierte Entscheidungsprozesse im Finanzbereich ohne menschliche Kontrolle ablaufen. Dies birgt Risiken und wirft kritische Fragen auf, die die Bankenaufsicht und -regulierung zum Handeln veranlassen.

Fairness, Transparenz und Risikomanagement als vielschichtige Herausforderung

Fairness, Transparenz und ein angemessenes Risikomanagement gelten als Grundpfeiler der Richtlinien im Kontext von KI im Finanzwesen. So sieht sich die BaFin in der Pflicht, Richtlinien zu definieren, die sowohl die Potenziale als auch die Grenzen und Risiken der Technologie erfassen sollen. Banken werden von der Aufsicht dazu angehalten, ein robustes Risikomanagementsystem zu implementieren und Transparenzanforderungen zu erfüllen, um mögliche Risiken von KI-Anwendungen zu bewerten und zu minimieren. Zudem soll der Gefahr einer ungerechtfertigten Diskriminierung, die durch den Einsatz von KI-Anwendungen entstehen kann, vorgebeugt werden. Die BaFin berücksichtigt daher in ihrer Aufsichtstätigkeit mögliche Risiken und Diskriminierungen, die durch die Automatisierung der Finanzindustrie entstehen können. Doch welche Diskriminierungen sind durch den Einsatz von KI in der Finanzwelt denkbar?

Direkte beziehungsweise unmittelbare Diskriminierung und automatisierte Bias

Sie liegt vor, wenn Personen oder Personengruppen aufgrund geschützter Merkmale wie Rasse, ethnische Herkunft, nationale Herkunft, Geschlecht, Alter, Ehe- oder Familienstand, Weltanschauung, Religion, sexuelle Ausrichtung oder Behinderung und anderer persönlicher Merkmale diskriminiert werden. Eine unmittelbare Diskriminierung im Finanzbereich liegt beispielsweise vor, wenn ältere Menschen bei der Vergabe von Finanzdienstleistungen aufgrund ihres Alters benachteiligt werden. Dabei ist nicht jede Ungleichbehandlung rechtlich verboten: Eine sachlich gerechtfertigte Unterscheidung nach Alter oder Einkommenshöhe stellt eine zulässige Ungleichbehandlung dar. Zu beachten ist jedoch die Auswahl personenbezogener Merkmale, die nach der Datenschutzgrundverordnung bei der Datenverarbeitung unzulässig sind und auch bei der Anwendung von KI im Bankgeschäft berücksichtigt werden müssen. Ebenso muss unter der Terminologie der „algorithmischen Fairness“ bei KI-basierten Anwendungsfällen durch die Gestaltung des Algorithmus sichergestellt werden, dass Personen und Personengruppen gleich behandelt werden. Damit soll auch die Entstehung von sogenannten automatisierten Bias minimiert werden, indem eine systematische Verzerrung der Ergebnisse durch den Einsatz von KI verhindert wird. Es soll sichergestellt werden, dass bei verschiedenen Geschäftsprozessen wie Bonitätsprüfung, Bewerberscreening und Betrugserkennung die Vermeidung jeglicher Form von Diskriminierung sowohl aus ethischer als auch aus rechtlicher Sicht berücksichtigt wird.

Die BaFin sieht die Einhaltung der Richtlinien als festen Bestandteil der Governance-Anforderungen. Die Governance-Prozesse müssen daher auch im Hinblick auf den Einsatz von KI angepasst und ergänzt werden. So kann die BaFin eine ungerechtfertigte Diskriminierung im Kontext des Einsatzes von KI aufsichtsrechtlich erfassen und deren Einhaltung einfordern. Banken müssen ihre Verantwortlichkeiten für den Einsatz von KI-Anwendungen klar und transparent regeln und das Risikobewusstsein der mit der Entwicklung und dem Einsatz betrauten Mitarbeitenden durch Schulungen und Sensibilisierung stärken.

Der europäische Blick auf KI - Der EU AI Act

Am 1. August 2024 ist die europäische Verordnung über Künstliche Intelligenz (KI-Verordnung) in Kraft getreten. Sie legt die rechtlichen Rahmenbedingungen für den Einsatz von KI in allen EU-Mitgliedstaaten fest. Ziel der Gesetzgebung ist es, die Grundrechte zu wahren, einheitliche Sicherheitsstandards für den Einsatz und den Umgang mit KI-Systemen zu setzen und Vertrauen in die neue Technologie zu schaffen.

Klassifizierung der KI-Systeme nach Risikopotenzial

Eine zentrale Vorgabe der Verordnung ist die Kategorisierung von KI-Systemen nach ihrem geschätzten Risikopotenzial. Die Verordnung verfolgt einen risikobasierten Regulierungsansatz und unterscheidet vier Risikostufen:

• „Inakzeptables Risiko“: Diese Klasse umfasst KI-Systeme, die als unverhältnismäßig riskant für die Grundrechte und Sicherheit der Bürgerinnen und Bürger eingestuft werden. Sie impliziert ein Verbot von KI-Systemen mit unannehmbarem Risiko wie beispielsweise soziale Bewertungssysteme wie Social Scoring.
• „Hohes Risiko“: Diese KI-Systeme sind erlaubt, unterliegen aber strengen Anforderungen. Unternehmen müssen eine Konformitätsbewertung durch eine unabhängige Stelle durchführen lassen, um sicherzustellen, dass diese Systeme in Bezug auf Transparenz, Fairness und Sicherheit den gesetzlichen Vorgaben entsprechen. KI-Systeme sind zugelassen, wenn sie den vorgeschriebenen Anforderungen genügen.
• „Begrenztes Risiko“: Bei diesen KI-Systemen besteht eine Informationspflicht gegenüber den Verbraucherinnen und Verbrauchern (Endnutzende). Beispiele für diese Anwendungen sind KI-Chatbots für den Kundensupport.
• „Minimales Risiko“: KI-Systeme in dieser Kategorie unterliegen den geringsten Auflagen. Beispiele solcher KI-Anwendungsfälle sind Videospiele oder Spam-Filter.

Finanzinstitute, die KI-basierte Anwendungen und Modelle in ihre Dienstleistungen integrieren, sind verpflichtet, eine detaillierte Risikobewertung dieser Modelle durchzuführen. Sie müssen sicherstellen, dass ihre KI-Systeme die gesetzlichen Anforderungen an Transparenz, Fairness und Sicherheit erfüllen. Gleichzeitig soll der Rechtsrahmen die Entstehung und Förderung von Innovationen unterstützen. KI-Systeme, die zur Kreditwürdigkeitsprüfung oder Bonitätsbeurteilung von natürlichen Personen sowie zur Risikobewertung und Preisgestaltung (zum Beispiel in der Lebens- und Krankenversicherung) eingesetzt werden, gelten als Hochrisiko-KI-Systeme (HRKI).

Was können Banken jetzt schon tun?

Zusammenfassend lässt sich festhalten, dass Banken und Finanzinstitute beim Einsatz von KI-Anwendungen Maßnahmen ergreifen müssen, die eine ungerechtfertigte Diskriminierung von Verbrauchern durch den Einsatz von KI verhindern. Dazu sind Prüfprozesse zu etablieren, um Diskriminierungsquellen zu identifizieren und durch gezielte Maßnahmen zu beseitigen. Um eine angemessene Umsetzung zu gewährleisten, bedarf es einer verlässlichen und transparenten Data Governance und Datenverwaltung. Ziel ist es, eine faire, transparente und diskriminierungsfreie Behandlung der Verbraucherinnen und Verbraucher zu gewährleisten. Durch den gezielten Aufbau von KI-Kompetenz und die systematische Aus- und Weiterbildung von Mitarbeitenden und Entscheidungsträgern soll zudem die KI-Readiness von Banken im Umgang mit KI erhöht werden.

Fazit

Regulierung ist nichts Böses und keineswegs ein Hindernis für die Entstehung von Innovationen. Mit klaren Vorgaben, Richtlinien und Leitplanken sorgt sie für Stabilität und Orientierung im Umgang mit KI und unterstützt die Etablierung einer Innovationskultur durch rechtliche Rahmenbedingungen und Schutzvorkehrungen. Damit schafft sie Vertrauen und Verlässlichkeit. Regulierung wirkt damit als Katalysator für die Entstehung stabiler und rechtssicherer KI-Anwendungen im Bankwesen.

Weitere spannende Themen aus der adesso-Welt findet ihr in unseren bisher erschienen Blog-Beiträgen.