Freigabe durch Menschen oder Mandat mit Grenzen?

Das Wichtigste in Kürze

Eine menschliche Freigabe entscheidet im Einzelfall, ein Mandat legt den Rahmen im Voraus fest.
Freigaben ohne Mandat skalieren nicht und führen zu blindem Bestätigen.
Am besten wirkt beides: Routine im Mandat, Ausnahmen zur Freigabe, jede Freigabe als signierter Entscheid.

Worum es geht

Bei der Freigabe durch Menschen, oft Human in the Loop genannt, legt der Agent jede Handlung vor, und ein Mensch entscheidet. Das ist bei neuen Einsätzen sinnvoll, weil es Vertrauen aufbaut und Fehler früh zeigt.

Ein Mandat legt den Rahmen im Voraus fest: welche Handlungen, bis zu welchem Betrag, mit welchen Gegenparteien, wie lange. Innerhalb dieses Rahmens handelt der Agent selbständig, und jede Handlung wird vor der Ausführung gegen das Mandat geprüft.

Der Vergleich

Merkmal	Freigabe durch Menschen	Mandat mit Grenzen
Entscheidung	im Einzelfall	im Voraus für einen Rahmen
Geschwindigkeit	abhängig von Verfügbarkeit	Millisekunden
Skalierung	begrenzt durch Menschen	beliebig viele Handlungen
Typisches Risiko	blindes Bestätigen bei vielen Anfragen	zu weit gefasster Rahmen
Nachweis	nur wenn als Entscheid festgehalten	Mandat, Entscheid und Beleg
Geeignet für	Ausnahmen, neue Einsätze	Routine mit klaren Regeln

Wann was passt

Freigabe in der Anfangsphase eines Einsatzes, für hohe Beträge, neue Gegenparteien und ungewöhnliche Muster.
Mandat für wiederkehrende Handlungen mit klaren Regeln, sobald der Einsatz stabil läuft.
Kombination als Dauerzustand: Das Mandat deckt die Routine, darüber entscheidet ein Mensch.

Wie beides zusammenspielt

Die Entscheidstelle prüft jede Handlung gegen das Mandat. Liegt sie darin, wird ausgeführt. Liegt sie darüber, geht sie an einen Menschen, und dessen Freigabe wird als signierter Entscheid festgehalten. Die Auswertung der Freigaben zeigt, ob der Rahmen passt: Werden fast alle Ausnahmen genehmigt, ist das Mandat zu eng; werden viele abgelehnt, deutet das auf Fehler oder Angriffe hin.

Häufige Missverständnisse

«Jede Handlung freizugeben ist am sichersten.» Nur bei kleiner Zahl. Bei vielen Anfragen sinkt die Aufmerksamkeit, und Freigaben werden zur Formsache.
«Ein Mandat heisst, dass niemand mehr hinschaut.» Das Mandat legt Grenzen fest, die Auswertung von Entscheiden und Belegen bleibt.
«Eine Freigabe per Klick ist ein Nachweis.» Nur wenn Person, Zeitpunkt und Handlung signiert festgehalten sind.

Rolle von KYA

KYA prüft, ob eine Handlung im Mandat lag oder durch einen Entscheid gedeckt war. Eine Ausnahme ohne festgehaltene Freigabe zeigt der Prüfschein als nicht belegt. Wie Entscheide vor der Ausführung wirken, beschreibt der Vergleich Entscheid vorher oder Protokoll danach?.

Entscheidungshilfe in drei Fragen

Wiederholt sich die Handlung häufig mit klaren Regeln? Dann gehört sie in ein Mandat.
Ist die Handlung selten, teuer oder ungewöhnlich? Dann braucht sie eine Freigabe durch einen Menschen.
Muss später gezeigt werden, wer entschieden hat? Dann wird jede Freigabe als signierter Entscheid festgehalten.

Häufige Fragen

Sollte ein Mensch jede Handlung eines KI-Agenten freigeben?

Am Anfang eines Einsatzes kann das sinnvoll sein. Auf Dauer skaliert es nicht; besser ist ein Mandat für die Routine und eine Freigabe für Ausnahmen.

Was ist besser: Freigabe oder Mandat?

Keines allein. Ein Mandat deckt die Routine schnell und prüfbar ab, die Freigabe durch Menschen bleibt für Ausnahmen und hohe Risiken.

Wie lege ich die Schwelle für Freigaben fest?

Nach Risiko und Erfahrung. Viele beginnen niedrig und erhöhen die Schwelle, wenn die Auswertung zeigt, dass die Routine stabil läuft.

Wie wird eine Freigabe nachweisbar?

Als signierter Entscheid mit freigebender Person, Zeitpunkt und Handlung. Ein Klick in einer Oberfläche ohne diesen Nachweis lässt sich später schwer belegen.

Was zeigt die Auswertung der Freigaben?

Ob das Mandat passt. Viele genehmigte Ausnahmen deuten auf einen zu engen Rahmen, viele abgelehnte auf Fehler oder Angriffe.

Wie viele Freigaben pro Tag sind zumutbar?

Das hängt von der Komplexität ab. Wenn Menschen Freigaben nur noch durchklicken, ist ihre Zahl zu hoch, und das Mandat sollte mehr Routine abdecken.

Wer sollte Freigaben erteilen?

Personen mit der passenden Kompetenz für die Handlung, etwa aus der Kompetenzordnung des Unternehmens. Eine Freigabe sollte nie von jemandem kommen, der sie selbst ausgelöst hat.

Was passiert, wenn niemand für eine Freigabe erreichbar ist?

Die Handlung wartet oder verfällt nach einer festgelegten Zeit. Für dringende Fälle braucht es eine Vertretungsregel, nie eine automatische Freigabe.

Kann eine Freigabe nachträglich erteilt werden?

Eine nachträgliche Genehmigung ist möglich, belegt aber nicht, dass die Handlung vorher erlaubt war. Für Handlungen mit Folgen sollte die Freigabe vor der Ausführung erfolgen.

Quellen

NIST: Least Privilege: https://csrc.nist.gov/glossary/term/least_privilege