TrustworthyAI – Versicherungs-KI in der Praxis

Versicherungsunternehmen stehen der Digitalisierung ihrer Prozesse seit jeher aufgeschlossen gegenüber. Es fallen große Datenmengen an, die verarbeitet, verwaltet und ausgewertet werden müssen. Hier ist jede Hilfe willkommen, alle Standardprozesse sind bereits hoch automatisiert. Dennoch sehe ich neben den bereits digitalisierten Prozessen einige, bei denen KI eine echte Verbesserung bringen wird:

• Sortierung und Kategorisierung im Input Management (Briefe und Mails)
• Unterstützung bei der Formulierung individueller Briefe und Mails
• Unterstützung in der Datenanalyse
• Automatisierung in der Vertrags-, Schaden- und Rechnungsprüfung
• Beratung bei der Weiterentwicklung von Produkten und Tarifmodellen

In jedem Unternehmen sehe ich Testprojekte, Leuchttürme oder Labore, um Erfahrungen mit KI zu sammeln. Das ist gut so! Ich finde auch erste kleine Anwendungen. Mal ist es ein Chatbot auf der Website, mal eine Testanwendung zum Sortieren von E-Mails. Aber den ganz großen Wurf sehe ich nicht. Kaum ein Unternehmen traut sich, KI in den Kernprozessen einzusetzen. Hier spüre ich eine große Zurückhaltung bei den Entscheidern. Aber warum?

Wenn ich mit Entscheiderinnen und Entscheidern darüber spreche, lassen sich deren Fragen in drei Themenbereiche einteilen:

• 1. Regulatorik: Was darf man als Versicherer? Welche Gesetze gibt es und wie stabil ist die Situation? Was muss ein Unternehmen tun, um KI rechtssicher einsetzen zu können?
• 2. Mitarbeitende: Wie werden die Mitarbeitenden auf KI reagieren? Werden sie akzeptieren oder boykottieren? Welche Ängste und Wünsche haben sie?
• 3. Kundinnen und Kunden: Was erwarten die Kundinnen und Kunden? Werden sie KI akzeptieren oder uns das Vertrauen entziehen?

TrustworthAI als Ansatz

Hier empfehle ich meinen Kunden das TrustworthyAI Framework zu berücksichtigen. Es wurde von der International Telecommunication Union (ITU) im Rahmen des Programms AI for Good entwickelt und ist keine Software eines bestimmten Herstellers, sondern eher eine Art Baukasten. Darin enthalten sind Themen wie KI in stark regulierten Umgebungen, Anforderungen an Vertrauen und Sicherheit oder Bedürfnisse der Mitarbeitenden und Kundinnen und Kunden. Das passt sehr gut zu den Anforderungen von Versicherungen.

Der Mensch im Mittelpunkt

Mitarbeitende von Versicherungsunternehmen sehen häufig ein großes Potenzial für KI in ihrem Bereich. Gleichzeitig sind sie aber skeptisch gegenüber der Technologie, die ihnen anonym und intransparent erscheint.

Das kann ich gut nachvollziehen. Die Zusammenarbeit mit einer KI ist oft grundlegend anders als mit einem klassischen System. Natürlich gibt es die KI, die im Hintergrund Briefe sortiert und die man kaum wahrnimmt, aber oft ist die Interaktion mit einer KI eher wie mit Kollegen. Die KI unterstützt und berät direkt, macht Vorschläge, hilft, inspiriert, reagiert auf Kritik oder korrigiert die menschliche Arbeit. Hier kann bereits die Präsentation der KI helfen. Hat die KI einen Namen? Hat sie eine Stimme, eine Persönlichkeit? Alexa und Siri wären wahrscheinlich nicht so erfolgreich, wenn sie keinen Namen und keine Roboterstimme hätten. Vielleicht hat die KI auch einen Avatar, mit dem sie sich selbst repräsentiert.

Die Mitarbeitenden müssen der KI vertrauen können, sowohl in Bezug auf die Ergebnisse als auch in Bezug auf die Tatsache, dass die KI sie nicht ersetzen, sondern unterstützen soll. Denn genau das Gegenteil ist der Fall: Der Einsatz solcher Werkzeuge in den Kernprozessen erfordert neue Rollen und Kompetenzen. Neugierige und technologieoffene Mitarbeitende können hier als Multiplikatoren wirken.

Daten als Ressource

KI-Modelle nutzen Daten, das ist ihre Basis. In der Vergangenheit haben Versicherer oft alle verfügbaren Daten in ein Data Warehouse gepackt und gehofft, dass die nutzenden Fachabteilungen schon das Richtige heraussuchen. Dieser Ansatz mit KI ist möglich, aber gefährlich. Was passiert, wenn die KI etwas Falsches lernt, die Daten nicht richtig einordnet und interpretiert? Was, wenn sie Schlüsse zieht und Regeln lernt, die gesetzlich verboten sind?

Mitarbeiterinnen und Mitarbeiter der Fachabteilungen können hier als Data Stewards Verantwortung für die Katalogisierung und Qualität der Daten übernehmen. Im Gegensatz zu klassischen Anwendungen verändern sich KI-gestützte Prozesse oft schneller, was auch für die Mitarbeitenden ein Umfeld des kontinuierlichen Lernens und Wachsens schafft.

Ergebnisse verstehen

Neben der Richtigkeit der Ergebnisse muss sich ein Versicherer auch um die Erklärbarkeit kümmern. Was nützt ein bestimmt richtiges Ergebnis, wenn Kund:innen oder Mitarbeitende dem einfach blind vertrauen sollen? Genau das schafft das Gefühl der Unsicherheit. Die KI muss ihre Erkenntnisse und Entscheidungsgrundlagen belegen können. Nur dann kann Sicherheit entstehen. Das betrifft auch regulatorische Anforderungen.

Regulatorik meistern

Bis vor wenigen Monaten herrschte große Unsicherheit im Bereich der Regulierung. Jeder wusste, dass die EU an einem KI-Gesetz arbeitet, und von Zeit zu Zeit sickerten Entwürfe durch, die teilweise über 500 Seiten lang waren. Aber es gab auch immer wieder Gerüchte, dass alles ganz anders kommen könnte.

Jetzt wissen wir, wo wir stehen. Das KI-Gesetz ist beschlossen und verkündet, wir kennen die Spielräume und Pflichten. Wir kennen auch andere relevante Regularien wie DORA und VAIT und auch dafür bietet TrustworthyAI den passenden Rahmen.

Assessment Center zur Begleitung

Es ist unrealistisch, dass jeder Fachbereich und die gesamte IT des Versicherungsunternehmens KI lernen, TrustworthyAI verstehen und beherrschen. Hier sehe ich einen sinnvollen Weg, die KI-Kompetenz in einem Team zu bündeln. Dieses Team hat einen umfassenden Überblick über alle KI-Systeme und Aktivitäten des Versicherers, egal ob selbst entwickelt oder zugekauft, egal ob selbst betrieben oder als Service. Dieses Team begleitet die Einführung von KI in Projekten und berät Projekte nach den Aspekten von TrustworthyAI.

Dabei habe ich gute Erfahrungen gemacht, wenn ein solches Team bunt zusammengesetzt ist. IT sollte ebenso vertreten sein wie der Fachbereich, Recht ebenso wie Datenschutz. Ab einem gewissen Reifegrad und bei bestimmten Projekten lohnt es sich, Kundinnen und Kunden frühzeitig einzubinden.

Change aktiv angehen

Inzwischen sollte klar geworden sein, dass die breite Einführung von KI im Unternehmen eine andere Herausforderung darstellt als der Austausch eines IT-Systems. Training, Coaching und Kommunikation sind essentiell, um eine solche Veränderung nachhaltig im Unternehmen zu verankern. Es braucht Mitarbeiterinnen und Mitarbeiter, die dieser Veränderung offen und neugierig, aber auch reflektiert gegenüberstehen. Gleichzeitig braucht die Versicherung eine auf sie zugeschnittene Kommunikationsstrategie, die die Kundinnen und Kunden in ihren Aspekten ernst nimmt. Dies kann das Vertrauen stärken und die Wettbewerbsfähigkeit erhöhen.

Fazit

Ich sehe bei den Versicherungsunternehmen einen Wettbewerbsdruck wie noch nie, und das gleich in mehrfacher Hinsicht. Immer mehr Marktteilnehmer, InsurTechs, erstarkte Makler und Vergleichsportale, dazu der Fachkräftemangel und der rasante technologische Wandel.

Gleichzeitig bietet KI schon heute den Unternehmen, die sie intelligent einsetzen, deutliche Wettbewerbsvorteile gegenüber ihren Marktbegleitern. Und die Entwicklung von KI steht erst am Anfang. Sie kann heute und in Zukunft helfen, Lücken im Personalbestand zu schließen. Zudem hat die EU mit dem AI Act den regulatorischen Rahmen gesetzt. Es ist klar, was geht und was nicht.

Ich glaube, die Zeit der kleinteiligen Experimente und Testballons ist vorbei. Jetzt ist es an der Zeit, die heißen Eisen anzupacken, die dicken Bretter zu bohren, und zwar mutig und energisch. Es ist Zeit, KI in den wesentlichen Prozessen einzusetzen und die Mitarbeitenden breit mitzunehmen.

Ihr möchtet gern mehr über spannende Themen aus der adesso-Welt erfahren? Dann werft auch einen Blick in unsere bisher erschienenen Blog-Beiträge.