Der Preis, für den es kein Formular gibt
Stellen Sie sich eine Ratssitzung im Herbst vor. Auf der Tagesordnung steht eine Vorlage zur Einführung einer KI-Anwendung, sagen wir in der Antragsbearbeitung. Die Wirtschaftlichkeitsbetrachtung liegt bei, die Datenschutzfolgenabschätzung ist gemacht. Sie stimmen zu, und Sie tun gut daran. Trotzdem beschließen Sie in diesem Moment etwas, das in keiner der beiden Unterlagen steht.
Damit ein KI-Modell in Ihrem Haus brauchbar wird, muss es gefüttert werden. Mit Akten, mit Kontext, vor allem aber mit Korrekturen. Jedes Mal, wenn eine Sachbearbeiterin ein Ergebnis zurechtrückt, gibt sie etwas ab, das mehr wert ist als die reine Akte: Sie erklärt der Maschine, wie Ihr Haus im konkreten Fall entscheidet. Microsoft-Chef Satya Nadella nennt es das umgekehrte Informationsparadox. Man zahlt für Intelligenz zweimal, einmal mit Geld und einmal mit dem eigenen Wissen, das man offenlegen muss, damit KI überhaupt nützlich wird.
Verwaltungswissen ist öffentlich. Es steht in Gesetzen und Durchführungsbestimmungen. Die Offenheit gilt für die Regeln, für ihre Anwendung gilt sie nicht. Wie Ermessen konkret ausgeübt wird und welcher Fall wie eingeordnet wird, steht in keiner Vorschrift. Genau das wandert bei jeder Korrekturschleife zur KI ab. Ein Datenschutzfall ist das nicht, denn ein Entscheidungsmuster ist kein personenbezogenes Datum. Wenn Sie sorgfältig anonymisieren, verschwindet der einzelne Fall, Ihr Entscheidungsmuster bleibt. Und diese Muster sind für die KI wertvoller als die Daten selbst. Der zweite Preis ist der einzige, für den es kein Formular gibt.
Daraus lässt sich ein optimistischer Schluss ziehen. Wenn die Maschine ohnehin lernt, wie Verwaltung entscheidet, rückt die vollständige Automatisierung des administrativen Teils in Reichweite. Ich halte das für plausibel. Nur ist die Grenze zwischen administrativ und gestaltend keine Eigenschaft des Vorgangs, sondern eine Entscheidung, und zwar Ihre.
Deshalb eine Bitte für die nächste KI-Vorlage. Fragen Sie nicht nur, was das Vorhaben kostet und ob der Datenschutz gewahrt ist. Fragen Sie, welches Wissen Ihr Haus dabei abgibt und ob es weiterarbeiten kann, wenn der Anbieter morgen ein anderer ist. Wer diese Frage vor dem Beschluss stellt, muss sie hinterher nicht beantworten.
Zum Gastautor: André Claaßen arbeitet mit Kommunen und Behörden an Strategiefreigabe: erst rechnen, dann beschließen. Wirtschaftlichkeitsbetrachtungen nach § 7 BHO. andreclaassen.de