In der Diskussion um Künstliche Intelligenz (KI) dominieren häufig privatwirtschaftliche Themen die Gespräche. Dabei denkt auch die öffentliche Verwaltung über den Einsatz von KI-Systemen nach. Denn die neuen Technologien eröffnen dem Staat und seinen Organen neue Möglichkeiten, ihre Aufgaben besser wahrzunehmen. Insbesondere bei repetitiven Verwaltungsprozessen oder bei der Analyse großer Datenmengen spielen KI-Anwendungen ihre Stärken aus. Beispielsweise bei der Automatisierung von Abläufen, dem Erkennen von Mustern in großen Datenbeständen oder durch den Einsatz von intelligenten Kommunikationsassistenten.
KI-Systeme unter politischer Beobachtung
KI-Anwendungen unterstützen die Mitarbeiterinnen und Mitarbeiter in der Verwaltung dabei, auf der Basis besserer Informationen Entscheidungen zu treffen. So ermöglicht KI beispielsweise ein effizienteres Steuersystem und bessere Möglichkeiten zur Bekämpfung von Betrug bei Steuern und Sozialleistungen.
Wenn in der öffentlichen Verwaltung KI-gestützte Systeme eingesetzt werden sollen, stehen diese immer auch unter politischer Beobachtung. Das bedeutet, sie müssen neben technischen Lösungen auch politische Antworten liefern beziehungsweise erarbeiten – zumindest dann, wenn einer KI-Lösung ein Schädigungspotenzial zugeschrieben wird. Spätestens wenn KI-Systeme zur Unterstützung von Verwaltungsentscheidungen eingesetzt werden, stellt sich die Frage nach der Nachvollziehbarkeit der Entscheidungen. Dahinter verbergen sich Fragen nach der demokratischen Legitimation, dem Grundrechtsschutz und dem Rechtsstaatprinzip sowie einem effektiven Rechtsschutz durch Verwaltungsgerichte.
Doch nicht jedes KI-System hat direkte Auswirkungen auf Menschen oder Ressourcen und nicht überall muss deshalb regulierend eingegriffen werden. Aus soziotechnischer Sicht wird definiert, dass es im Wesentlichen die Systeme sind, die 1. über Menschen entscheiden oder 2. über Ressourcen, die Menschen betreffen, oder die 3. solche Entscheidungen treffen, die die gesellschaftlichen Teilhabemöglichkeiten von Personen ändern, die einer Regulierung und Kontrolle ihrer inneren Mechanik bedürfen. Der Staat besitzt und produziert in einigen Bereichen große Mengen nicht personenbezogener Daten, wie beispielsweise Wetterdaten für die Wettervorhersage, Verkehrsdaten zur Planung und Lenkung von Verkehrsströmen oder zuletzt aktuelle medizinische Daten zur Früherkennung von Pandemien.
Politisches Stakeholdermanagement
Die Aufgabe des politischen Stakeholdermanagements beim Einsatz von KI-Systemen in der öffentlichen Verwaltung kann nicht allein durch IT-Dienstleister wie adesso geschehen. Derzeit fehlt noch eine Synchronisation der Aktivitäten auf den verschiedenen Ebenen. Gefordert ist also die Politik. Die Politik und die Gesetzgebung auf EU-, Bundes- und Landesebene müssen die rechtlichen Leitlinien festlegen und einen Rahmen für KI-Aktivitäten und -Projekte schaffen. Nur so kann KI als sinnvolles Werkzeug in der öffentlichen Verwaltung etabliert werden. Gerne bringen wir unsere Expertise als ITDienstleister in diese Diskussion mit ein.