Ist das überhaupt KI? Warum die Unterscheidung über das ganze Projekt entscheidet

Ein Automatisierungsprojekt im kirchlichen Rechnungswesen kann so aussehen: vorhandene Zeitstempel aus dem Buchungssystem auswerten, um zu sehen, wie lange ein Vorgang dauert und wo er liegen bleibt. Nützlich, aber ist das „KI“?

Meistens nicht. Es ist regelbasierte Auswertung: Das System lernt nichts und entscheidet nichts, es rechnet mit vorhandenen Daten nach festen Regeln. Diese Unterscheidung klingt akademisch, hat aber handfeste Folgen.

Der AI Act

Ein System, das kein maschinelles Lernen enthält, ist kein KI-System im Sinne der Definition, der AI Act greift dann schlicht nicht. Wer dasselbe Werkzeug als „KI“ etikettiert, importiert einen ganzen Regelrahmen, den er gar nicht braucht.

Die Mitbestimmung

Sobald ein System geeignet ist, Verhalten oder Leistung von Mitarbeitenden zu erfassen, ist die Mitarbeitervertretung zu beteiligen, unabhängig davon, ob KI im Spiel ist. Die kirchlichen Regelungen (MVG-EKD, MAVO) setzen hier früher an als das weltliche Betriebsverfassungsrecht. Eine Zeitstempel-Analyse, die einzelnen Personen Verzögerungen zuordnet, fällt darunter, ganz ohne „KI“.

Die Akzeptanz

„Wir setzen KI auf eure Arbeit an“ löst in einer Personalvertretung berechtigte Fragen aus. „Wir werten vorhandene Zeitstempel aus, das System lernt nichts und entscheidet nichts“ ist ehrlicher, und öffnet Türen, die das KI-Etikett verschließt.

Für die Praxis

Zuerst sauber benennen, was man baut. Ist maschinelles Lernen wirklich nötig, oder tut es eine deterministische Regel? Oft ist die Regel nicht nur rechtlich einfacher, sondern auch nachvollziehbarer und prüfbarer, im kirchlichen Umfeld ein Wert an sich. Und wo tatsächlich ein Modell nötig ist, lässt es sich gezielt einsetzen: als Assistenz für den Menschen, mit dem Menschen in der Schleife und klarer Zweckbindung, nicht als Automat, der unkontrolliert entscheidet.

Die genaue rechtliche Einordnung, ob im Einzelfall ein KI-System vorliegt, was die MAV mitbestimmt, gehört zur Bewertung durch den Datenschutzbeauftragten und, wo nötig, eine Kanzlei. Die vorgelagerte Frage dagegen, ob überhaupt maschinelles Lernen nötig ist, ist eine technische, und sie lässt sich häufig mit Nein beantworten.