Künstliche Intelligenz kann Aufgaben übernehmen, die früher Menschen vorbehalten waren: Texte schreiben, Bilder beschreiben, Entscheidungsvorschläge machen. Damit stellt sich eine Frage, die technisch klingt, aber rechtlich und ethisch ist: Wer trägt die Verantwortung für das, was das System tut? Die Antwort ist eindeutig und für viele unbequem: die Organisation, die es einsetzt. Nicht der Hersteller, nicht der Algorithmus. Sie.
Das Prinzip, das daraus folgt, heißt „Human in the Loop", Mensch in der Schleife. Es bedeutet, dass an kritischen Punkten ein Mensch prüft, entscheidet oder eingreift, bevor ein System wirksam wird. Das ist kein Feature, das man dazukaufen kann. Es ist eine Gestaltungsentscheidung, die darüber bestimmt, ob ein KI-System verantwortbar bleibt oder zur Blackbox wird.
Was der AI Act verlangt
Mit dem europäischen AI Act wird diese Frage für viele Organisationen zur Pflicht. Der Act unterscheidet zwischen Anbietern, die ein KI-System entwickeln, und Betreibern, die es einsetzen. Als Betreiber, auch „Deployer" genannt, tragen Sie bestimmte Pflichten: Sie müssen die Nutzung überwachen, dafür sorgen, dass Menschen bei Bedarf eingreifen können, und Sie müssen sicherstellen, dass Betroffene verstehen, wenn sie mit einem KI-System interagieren.
Für Hochrisiko-Systeme gelten strengere Anforderungen, aber die Grundlogik zieht sich durch: Ein KI-System ist kein eigenständiger Akteur, sondern ein Werkzeug. Und wer ein Werkzeug einsetzt, haftet für das, was damit geschieht. Das bedeutet nicht, dass Sie jede Entscheidung selbst treffen müssen. Es bedeutet, dass Sie an den wichtigen Stellen die Kontrolle behalten.
Warum volle Automatisierung scheitert
Die Versuchung ist groß, ein KI-System einfach laufen zu lassen. Es ist schneller, billiger und skaliert besser als eine Lösung, bei der Menschen prüfen. Genau deshalb wird es an den Rändern brüchig. KI-Systeme sind gut im Erkennen von Mustern, aber schlecht im Umgang mit Ausnahmen. Sie haben kein Urteilsvermögen und kein Gespür dafür, wann eine Regel nicht passt.
Ein Beispiel: Ein System schlägt automatisch Antworten auf Bürgeranfragen vor. In 95 Prozent der Fälle funktioniert das einwandfrei. Bei den restlichen fünf Prozent steht etwas im Text, das das System nicht versteht, ein Sonderfall, ein Missverständnis, ein Tonfall, der Dringlichkeit signalisiert. Läuft das System ohne Prüfung durch, fallen genau diese Fälle durch. Und das sind oft die, bei denen es darauf ankommt.
Dazu kommt das Vertrauensproblem. Wenn etwas schiefgeht und die Antwort lautet „Das hat der Algorithmus entschieden", ist das für niemanden befriedigend. Weder für die Person, die betroffen ist, noch für die Organisation, die dafür geradestehen muss. Verantwortung lässt sich nicht an eine Maschine delegieren.
Was es in der Praxis heißt
Mensch in der Schleife bedeutet nicht, dass jemand jede Ausgabe von Hand korrigiert. Es bedeutet, dass an bestimmten Punkten eine Entscheidung liegt, die ein Mensch trifft. Das kann unterschiedlich aussehen.
Bei einer Funktion, die automatisch Alt-Texte für Bilder vorschlägt, etwa einer TYPO3-Extension, die beim Hochladen eines Bildes einen Beschreibungstext generiert, liegt die Prüfung bei der Redaktion. Das System liefert einen Entwurf, die Redaktion entscheidet, ob er passt oder angepasst werden muss. Die Maschine nimmt die repetitive Arbeit ab, die Verantwortung bleibt beim Menschen. Das ist genau die Logik, die ein KI-System verantwortbar macht: Entwurf, nicht Ersatz.
Bei einem Assistenten, der Bürgeranfragen beantwortet, könnte der Mensch in der Schleife an zwei Stellen sitzen: einmal bei der Freigabe von Antwortvorlagen, und einmal als Eskalationspunkt, an den das System übergibt, wenn es unsicher ist. Entscheidend ist, dass diese Punkte nicht nachträglich eingezogen werden, sondern von Anfang an Teil der Architektur sind.
Kontrolle ist gestaltbar
Ein gut gebautes KI-System zeigt, wo es an seine Grenzen kommt. Es sagt, wenn es sich nicht sicher ist, es bietet Alternativen an, und es übergibt an einen Menschen, bevor etwas Irreversibles geschieht. Systeme, die so gebaut sind, erlauben es einer Organisation, KI einzusetzen und trotzdem die Kontrolle zu behalten.
Das ist auch der Unterschied zwischen einem System, das Sie einsetzen können, und einem, das Sie besser lassen. Wenn Sie nicht wissen, wann und wie ein Mensch eingreift, wenn das System keine Unsicherheit meldet und wenn es keine Möglichkeit gibt, eine Entscheidung rückgängig zu machen, dann ist das kein Werkzeug. Es ist eine Blackbox, für die niemand geradestehen kann.
Was das für die Auswahl bedeutet
Bevor Sie ein KI-System einführen, lohnen sich drei Fragen. Erstens: An welchen Stellen muss ein Mensch prüfen oder entscheiden, und ist das im System vorgesehen? Zweitens: Wie erkennen Sie, wenn das System an seine Grenzen kommt? Drittens: Wer in Ihrer Organisation trägt die Verantwortung dafür, dass diese Kontrollpunkte auch tatsächlich genutzt werden?
Wenn die Antworten vage bleiben oder die Verantwortung unklar ist, ist das ein Warnsignal. Ein System, das Sie nicht kontrollieren können, kontrolliert am Ende Sie.
Der Mensch in der Schleife ist kein Hindernis für Effizienz. Er ist die Bedingung dafür, dass Effizienz nicht auf Kosten von Verantwortung geht. Und genau das ist der Punkt, an dem aus einer interessanten Technologie ein einsetzbares Werkzeug wird.