News der AKDB

"KI wird den Behördenalltag vereinfachen!"

Künstliche Intelligenz ist in aller Munde. Auch in der Verwaltungswelt. Die einen sehen im Einsatz von intelligenten Algorithmen ein Allheilmittel für eine schnellere Datenbearbeitung, die anderen verteufeln sie als Tyrannei der Maschinen über den Menschen. Die Wahrheit liegt wie immer in der Mitte, wie Prof. Dr. Katharina Zweig im Interview erklärt. Die Informatikprofessorin an der TU Kaiserlautern ist eine der Top-Speakerinnen auf dem 4. AKDB Kommunalforum » Digital 2020 am 1. Oktober.

Frau Prof. Zweig, was ist eigentlich künstliche Intelligenz?

Künstliche Intelligenz ist eine Forschungsrichtung der Informatik aus den 1940ern, die sich kontinuierlich weiterentwickelt hat. Sie versucht, Tätigkeiten, die beim Menschen eine gewisse Intelligenz voraussetzen, auf den Computer zu übertragen. Dabei gab es immer wieder Phasen der Euphorie – die letzte wurde durch die Weiterentwicklung des sogenannten "maschinellen Lernens" ausgelöst. Maschinelles Lernen benötigt große Datenmengen von sehr ähnlichen Situationen und kann dann darin mit Hilfe von statistischen Verfahren nach Mustern suchen. Wie das geht, beschreibe ich auch in meinem aktuellen Buch "Ein Algorithmus hat kein Taktgefühl". In Österreich wurde z.B. ein sehr großer Datensatz von Arbeitslosen nach solchen Eigenschaften durchsucht, die darauf hindeuten, ob ein arbeitsloser Mensch schnell wieder einen Job findet oder eher gar nicht mehr in den Arbeitsmarkt findet. Die Idee dahinter war, dass man den Personen, die weder in die eine noch in die andere Gruppe fallen, am meisten mit Weiterbildungen und Beratung helfen kann.

Welche technischen Voraussetzung sind nötig, um KI in Zukunft einzusetzen?

Hauptsächlich benötigt man große Datenmengen. Für die Frage, ob eine Person z.B. wieder einen Arbeitsplatz finden wird, und an welchen Eigenschaften das vermutlich liegt, braucht man mehrere Tausend bis Zehntausende Datensätze. Je mehr Eigenschaften dabei berücksichtigt werden sollen, desto mehr Daten werden dafür benötigt – und zwar sehr viel mehr. Tatsächlich vervielfacht sich die Menge an Daten, die man benötigt, wenn man eine weitere Eigenschaft mit hinzunehmen möchte. Das wird bei den meisten Fragestellungen der Knackpunkt sein. Wenn man diese Menge an Daten hat, diese aber auch persönliche Informationen enthalten, kann es notwendig sein, besonders gesicherte Serverstrukturen mit leistungsstarken Rechnen aufzubauen.

Oft vergessen wird aber, dass auch die in der Verwaltung direkt ansässige Expertise mit aufgebaut werden muss – es geht eben nicht nur um technische Voraussetzungen. Bei vielen solcher Systeme wäre es z.B. notwendig, diese regelmäßig neu aufzubauen. Bei dem österreichischen Beispiel schlagen die Entwickler beispielsweise vor, die Software jedes Jahr neu zu trainieren. Damit soll erreicht werden, dass die Daten, in denen nach Mustern gesucht wird, nicht zu alt sind.

Zudem werden Anfragen in Bezug auf §22 DSGVO kommen, da dieser Paragraph zusichert, dass Bürgerinnen und Bürger ein Recht haben, die Entscheidung erklärt zu bekommen, wenn sie von einem Algorithmus getroffen wird und sie dadurch Rechtsfolgen ausgesetzt sind. Nicht zuletzt kann eine behördenspezifische KI vermutlich nicht einfach eingekauft werden – hier muss eine enge Zusammenarbeit zwischen Verwaltungsmitarbeiter:innen und dem Entwicklungsteam erfolgen. Wenn es also über den Einsatz von Chatbots oder Texterfassungsystemen hinausgehen soll, ist Expertise im Haus dringend notwendig.

In welchen kommunalen Bereichen ist der Einsatz von KI bereits heute vorstellbar und wünschenswert?

Eine automatische Bescheiderstellung ist nach landläufiger Meinung nur möglich, wenn es keinerlei Ermessensspielräume in einem Prozess gibt. Dann aber benötigt man auch keine künstliche Intelligenz im Sinne von maschinellem Lernen, sondern nur sogenannte "Expertensysteme". Diese nehmen Entscheidungsregeln, nach denen menschliche Expertinnen und Experten entscheiden, und wandeln sie in eine computerlesbare Form um. Diese kann dann vom Computer direkt umgesetzt werden. Aber auch hier gibt es Tücken! In Australien wurden eine ganze Reihe von falschen Mahnbescheiden für angeblich fälschlich erhaltene Sozialhilfen verschickt, nachdem ein Algorithmus diese Aufgabe übernahm.

Wir halten es daher für wahrscheinlicher, dass solche KI Einzug halten wird, die den Behördenalltag vereinfacht und Hintergrundprozesse erledigt. Zur dieser KI gehören Systeme wie Chatbots, Texterkennungssysteme, Diktatsoftware und Software, die die Inhalte von Texten erfasst und zusammenfasst.

Wo stößt KI dagegen an seine Grenzen?

Alle Aufgaben, bei denen es auf den genauen Kontext ankommt und wo sich die Zahl und Qualität der betrachteten Eigenschaften je nach Situation ändert, sind für KI-Systeme momentan nicht erreichbar. Hauptsächlich deshalb, weil die dafür notwendigen, riesigen Datenmengen fehlen. Insgesamt sollte die Verwaltung also die nächsten 5-10 Jahre wie folgend nutzen: Erstens: Kommerziell erhältliche KI identifizieren, die heute schon zufriedenstellend und ohne großen Datenhunger nutzbar sind. Zweitens: Eigene Expertise im Haus aufbauen, die für den Kauf von KI-Systemen "von der Stange" und die Begleitung der Entwicklung eigener KI-Systeme und alle daraus folgenden technischen, rechtlichen, gesellschaftlichen, politischen und ethischen Fragen ausgebildet ist. Drittens: Digitale Datenformate etablieren, die den reibungslosen Datenaustausch zwischen Behörden und innerhalb von Behörden ermöglichen. Das sind aber zuerst einfach nur Probleme der Digitalisierung. Wenn die Daten dann vorliegen – vielleicht auch dezentral, um Bürger:innen mehr Kontrolle über ihre Daten zu geben – kann man über darauf aufbauende KI-Systeme nachdenken.

Frau Professor Zweig wird auf dem 4. AKDB Kommunalforum » Digital 2020 am 1. Oktober einen Vortrag halten mit dem Titel: „Dürfen wir Maschinen die Kontrolle überlassen? Und wenn ja wie viel?“ (Forum „Strategie&Politik“, 11.30 Uhr)