Human-in-the-Loop als Architektur, nicht als Ausrede
„Der Mensch behält die Kontrolle" steht in jeder Anbieterpräsentation. In der Praxis heißt das oft: Ein Mensch klickt auf Bestätigen, ohne die Grundlage zu kennen. Das ist keine Kontrolle, das ist eine Unterschrift. Der Unterschied entscheidet darüber, ob Ihr System bei einem Fehler haltbar ist.
Human-in-the-Loop wirkt nur, wenn die Freigabe echt ist: Der Mensch sieht Quelle und Rechenweg, erfährt auch die Lücken, kann genauso leicht ablehnen wie zustimmen, und Ablehnungen werden ausgewertet. Fehlt das, entsteht Rubber Stamping. Der Mensch gehört an drei Stellen — Quellenerschließung, Wissensbildung und wirksame Handlungen — aber nicht an jede einzelne Antwort.
Wann eine Freigabe echt ist
- Der Mensch sieht die Grundlage, nicht nur das Ergebnis: Quelle, Fundstelle, Rechenweg.
- Er sieht, was das System nicht wusste, und nicht nur, was es gefunden hat.
- Ablehnen ist genauso einfach wie Zustimmen und hat eine vorgesehene Folge.
- Die Ablehnung wird ausgewertet, sonst wiederholt das System denselben Fehler.
Fehlt einer dieser Punkte, entsteht Rubber Stamping: Nach zwei Wochen klickt jeder alles durch, weil bisher immer alles gestimmt hat. Genau dann versagt die Kontrolle beim ersten echten Fehler.
Die drei Stellen, an denen der Mensch stehen sollte
Erstens bei der Erschließung: Nach jeder Phase gibt das Team frei, welche Quellen aufgenommen werden. Zweitens bei der Wissensbildung: Was als dauerhafter Fakt gespeichert wird, bestätigt das Fachteam — nicht der Algorithmus. Drittens bei wirksamen Handlungen: Bestellungen, Freigaben, Kundenkommunikation.
Nicht dorthin gehört der Mensch bei jeder einzelnen Antwort. Wer jede Auskunft freigeben lässt, hat den Engpass nur verschoben.
Warum das auch regulatorisch zählt
Dokumentierte Freigaben je Phase und ein Protokoll darüber, wer was wann gesehen hat, sind die Grundlage jeder späteren Prüfung — im Audit, bei einer Reklamation, gegenüber dem Betriebsrat. Wer diese Struktur erst einbaut, wenn sie verlangt wird, baut sie doppelt.
Häufige Fragen
Was ist Rubber Stamping?
Das gedankenlose Durchklicken von Freigaben, weil bisher immer alles gestimmt hat. Es entsteht zuverlässig dort, wo Freigaben häufig, gleichförmig und ohne sichtbare Grundlage sind. Die Gegenmittel sind: nur dort freigeben lassen, wo es wirklich nötig ist, die Grundlage immer mitzeigen und Ablehnungen sichtbar auswerten.
Muss ein Mensch jede KI-Antwort prüfen?
Nein, und es wäre kontraproduktiv, weil damit der Engpass nur verschoben wird. Prüfung gehört dorthin, wo eine Handlung Wirkung entfaltet oder wo dauerhaftes Wissen entsteht. Für reine Auskünfte übernimmt die Quellenangabe die Kontrollfunktion: Wer den Beleg anklicken kann, prüft selbst, wenn es darauf ankommt.
Wie dokumentieren wir Freigaben prüffest?
Mit einem Protokoll, das Zeitpunkt, Person, Gegenstand und Entscheidung festhält, und mit einem Verweis auf die Grundlage, die vorlag. Wichtig ist die Unveränderlichkeit im Nachhinein. Das ist der Nachweis, den Audits, Reklamationsfälle und Mitbestimmungsgremien verlangen.
Was bringt es, Ablehnungen auszuwerten?
Sie sind die wertvollste Rückmeldung im ganzen System. Eine Ablehnung sagt, dass das Ergebnis plausibel aussah und trotzdem falsch war — genau die Fälle, die man sonst nie findet. Werden sie nicht ausgewertet, wiederholt sich derselbe Fehler und das Vertrauen der Nutzer sinkt mit jeder Wiederholung.
Wie sieht Freigabe bei Ihnen aus?
Im Raum sehen Sie, wo im Ablauf Menschen entscheiden.
Raum betreten →
