Human in the Loop
Human in the Loop bezeichnet ein Vorgehen, bei dem ein Mensch bestimmte Handlungen eines KI-Agenten vor der Ausführung prüft und freigibt oder ablehnt.
Nicht jede Handlung eines Agenten soll automatisch geschehen. Bei hohen Beträgen, neuen Gegenparteien oder ungewöhnlichen Mustern hält der Agent an und legt die Handlung einem Menschen vor. Erst nach dessen Freigabe wird ausgeführt. Verwandt sind «Human on the Loop», bei dem ein Mensch nur überwacht und eingreifen kann, und «Human out of the Loop» für vollständig automatische Abläufe.
Human in the Loop ist wirksam, wenn die Schwellen klar sind, die Freigabe dokumentiert wird und Menschen nicht mit so vielen Anfragen überflutet werden, dass sie nur noch bestätigen. Die beste Ergänzung ist ein Mandat mit Grenzen: Was darin liegt, läuft automatisch, was darüber hinausgeht, geht an den Menschen.
Beispiel
Ein Einkaufsagent bestellt Verbrauchsmaterial bis 2'000 Franken selbst. Eine Bestellung über 7'500 Franken legt er der Leiterin Einkauf vor; sie gibt frei, und ein signierter Entscheid hält fest, wer wann freigegeben hat.
Abgrenzung
Human in the Loop entscheidet im Einzelfall, ein Mandat legt den Rahmen im Voraus fest. Die Freigabe ohne Mandat skaliert schlecht, ein Mandat ohne Freigabe für Ausnahmen ist starr. Beides zusammen deckt Routine und Ausnahme ab.
In der Praxis
- Legen Sie Schwellen fest, ab denen ein Mensch entscheidet, statt jede Handlung vorzulegen.
- Halten Sie jede Freigabe als signierten Entscheid mit Person, Zeitpunkt und Begründung fest.
- Werten Sie die Zahl der Freigaben aus; steigt sie stark, sind Mandat oder Schwellen falsch eingestellt.
Bezug zu KYA
KYA prüft, ob eine Handlung im Mandat lag und ob ein Entscheid vorliegt. Eine menschliche Freigabe wird als signierter Entscheid prüfbar; ohne diesen Nachweis bleibt offen, ob die Ausnahme wirklich genehmigt war.
Zugehöriger Prüfschritt: Umfang der Handlung (intent_scope). Liegt die Handlung innerhalb von Handlungstyp, Betragsgrenze, Währung und Gegenpartei des Mandats?
Häufige Fragen
Was bedeutet Human in the Loop bei KI-Agenten?
Ein Mensch prüft bestimmte Handlungen eines Agenten vor der Ausführung und gibt sie frei oder lehnt sie ab, typischerweise bei hohen Beträgen oder ungewöhnlichen Fällen.
Was ist der Unterschied zu Human on the Loop?
Bei Human in the Loop wartet der Agent auf die Freigabe. Bei Human on the Loop handelt er selbständig, und ein Mensch überwacht und kann eingreifen.
Reicht eine menschliche Freigabe als Sicherheit?
Nur wenn sie gezielt eingesetzt wird. Werden Menschen mit Anfragen überflutet, bestätigen sie irgendwann ohne Prüfung. Klare Schwellen und ein Mandat für die Routine sind deshalb wichtig.
Wie wird eine Freigabe nachweisbar?
Als signierter Entscheid, der Handlung, freigebende Person und Zeitpunkt nennt. So lässt sich später zeigen, dass eine Ausnahme genehmigt war.
Wie hilft KYA dabei?
KYA prüft, ob eine Handlung im Mandat lag oder durch einen Entscheid gedeckt war. Fehlt der Entscheid für eine Ausnahme, zeigt der Prüfschein das an.