Der Bundesrat hat einen Vorschlag zum Einsatz künstlicher Intelligenz (KI) bei Entscheidungen in der öffentlichen Verwaltung abgelehnt. Die Ausschüsse der Länderkammer hatten empfohlen, im neuen Onlinezugangsgesetz "die Zulässigkeit des Einsatzes algorithmenbasierter Entscheidungsfindung und -vorbereitung in der öffentlichen Verwaltung zu normieren", also Regeln für ihren Einsatz festzulegen. Diese Empfehlung verwarf das Parlament in seiner letzten Sitzung vor der parlamentarischen Sommerpause.
Anlass für die Empfehlung der Ausschüsse war ein Gesetzentwurf der Bundesregierung zur Änderung des Onlinezugangsgesetzes sowie weiterer Vorschriften zur Digitalisierung der Verwaltung. In einer Stellungnahme schloss sich der Bundesrat dem Ziel, die Digitalisierung der Verwaltung voranzutreiben, zwar ausdrücklich an. Die Länder formulierten allerdings zahlreiche Änderungswünsche am Entwurf der Bundesregierung.
Die Innenpolitikerin Misbah Khan (Grüne) zeigte sich erleichtert über die Entscheidung des Bundesrates. "Es ist beruhigend, dass die Länder nicht blind auf den KI-Zug aufspringen und das Vorhaben abgelehnt haben." Man müsse sich die Zeit nehmen, über einen sinnvollen und transparenten Einsatz von KI in deutschen Behörden und Ämtern zu sprechen.
Grüneninnenexpertin fordert transparente Entscheidungen
Khan hatte vor der Abstimmung gefordert, Entscheidungen der öffentlichen Verwaltung müssten transparent und nachvollziehbar sein, auch seien selbstlernende Systeme nicht diskriminierungsfrei. Wer beispielsweise einen Antrag auf Wohngeld stelle und dann eine Absage erhalte, müsse nachvollziehen können, warum der Antrag abgelehnt wurde. Verfahren könnten auch ohne den Einsatz von KI deutlich beschleunigt und vereinfacht werden.
Die Parlamentarische Staatssekretärin im Bundesverkehrsministerium, Daniela Kluckert (FDP), sagte dagegen, ihr auch für Digitales zuständiges Ministerium unterstütze den Einsatz von KI in der Verwaltung. Diese könne helfen, standardisierte Prozesse zu automatisieren und den Mitarbeitern so mehr Zeit für die Entscheidung komplexer Fälle zu verschaffen, beispielsweise bei der Einbürgerung. "Hinzu kommt, dass KI sachlichere und schnellere Entscheidungen treffen kann, als es dem Menschen möglich ist – gerade im Bürger-Staat-Verhältnis", fügte sie hinzu.
Andere Empfehlungen der Ausschüsse der Länderkammer zur Reform des Onlinezugangsgesetzes – etwa die Forderung nach einem einheitlicheren Datenmanagement – fanden dagegen bei der Abstimmung eine Mehrheit.
Der Bundesrat hat einen Vorschlag zum Einsatz künstlicher Intelligenz (KI) bei Entscheidungen in der öffentlichen Verwaltung abgelehnt. Die Ausschüsse der Länderkammer hatten empfohlen, im neuen Onlinezugangsgesetz "die Zulässigkeit des Einsatzes algorithmenbasierter Entscheidungsfindung und -vorbereitung in der öffentlichen Verwaltung zu normieren", also Regeln für ihren Einsatz festzulegen. Diese Empfehlung verwarf das Parlament in seiner letzten Sitzung vor der parlamentarischen Sommerpause.
Anlass für die Empfehlung der Ausschüsse war ein Gesetzentwurf der Bundesregierung zur Änderung des Onlinezugangsgesetzes sowie weiterer Vorschriften zur Digitalisierung der Verwaltung. In einer Stellungnahme schloss sich der Bundesrat dem Ziel, die Digitalisierung der Verwaltung voranzutreiben, zwar ausdrücklich an. Die Länder formulierten allerdings zahlreiche Änderungswünsche am Entwurf der Bundesregierung.