Minimale Befugnis
Minimale Befugnis ist der Grundsatz, einem Agenten nur die Rechte zu geben, die er für eine bestimmte Aufgabe braucht, und nur so lange, wie er sie braucht.
Der Grundsatz stammt aus der Informationssicherheit, wo er als Least Privilege bekannt ist; das NIST beschreibt ihn als Beschränkung auf die für eine Aufgabe nötigen Rechte. Für KI-Agenten bedeutet er: enge Handlungstypen, Betragsgrenzen, zugelassene Gegenparteien und kurze Gültigkeit statt eines pauschalen Zugangs.
Je enger der Rahmen, desto kleiner der Schaden, wenn ein Agent sich irrt oder manipuliert wird. Gleichzeitig wird jede Handlung prüfbar, weil klar ist, was erlaubt war.
Beispiel
Statt eines Kreditkartenzugangs ohne Grenze erhält ein Reiseagent ein Mandat für Zugtickets bis 80 Franken, gültig bis Monatsende und nur bei einem Anbieter. Selbst wenn der Agent manipuliert wird, kann er weder ein Flugticket noch Waren bestellen.
Abgrenzung
Eine Blankovollmacht gibt einem Agenten weitreichende, unbegrenzte Rechte; minimale Befugnis ist ihr Gegenteil. Rollenbasierte Rechte vergeben Bündel nach Funktion, minimale Befugnis schneidet sie auf die einzelne Aufgabe zu.
In der Praxis
- Schneiden Sie Mandate auf eine Aufgabe zu und vergeben Sie für neue Aufgaben neue Mandate, statt bestehende zu erweitern.
- Setzen Sie Gültigkeiten von Stunden oder Tagen statt Monaten, wo es die Aufgabe erlaubt.
- Überprüfen Sie Mandate regelmässig und widerrufen Sie alle, die nicht mehr gebraucht werden.
Bezug zu KYA
KYA prüft jede Handlung gegen die Grenzen des Mandats: Handlungstyp, Betrag, Gegenpartei und Gültigkeit. Je enger das Mandat gefasst ist, desto aussagekräftiger ist der Prüfschein.
Zugehöriger Prüfschritt: Umfang der Handlung (intent_scope). Liegt die Handlung innerhalb von Handlungstyp, Betragsgrenze, Währung und Gegenpartei des Mandats?
Mandate mit engen Grenzen pro Aufgabe stellt zum Beispiel die Referenzimplementierung Mandact (vom Betreiber von KYA) aus.
Häufige Fragen
Was bedeutet minimale Befugnis bei KI-Agenten?
Ein Agent erhält nur die Rechte, die er für eine konkrete Aufgabe braucht: bestimmte Handlungen, Betragsgrenzen, zugelassene Gegenparteien und eine kurze Gültigkeit.
Warum ist minimale Befugnis bei Agenten so wichtig?
Weil Agenten sich irren oder manipuliert werden können. Ein enger Rahmen begrenzt den möglichen Schaden und macht jede Handlung nachprüfbar.
Wie setzt man minimale Befugnis praktisch um?
Mit Mandaten pro Aufgabe statt pauschaler Zugänge, mit Grenzen und Ablaufdatum, mit einem Entscheid vor jeder Ausführung und mit der Möglichkeit, ein Mandat jederzeit zu widerrufen.
Bremst minimale Befugnis die Arbeit von Agenten?
Kaum, wenn Mandate gut zugeschnitten sind. Ein Agent erhält für jede Aufgabe genau das Nötige; braucht er mehr, entsteht ein neues Mandat oder eine Eskalation an einen Menschen.