---
title: "Guardrails: Definition | KYA-Glossar"
url: https://knowyouragent.ch/wissen/glossar/guardrails
lang: de-CH
updated: 2026-10-12
license: © Innopulse Consulting GmbH
---

# Guardrails

Guardrails sind Schutzmechanismen um ein Sprachmodell, die Eingaben und Ausgaben filtern, etwa schädliche Inhalte, vertrauliche Daten oder Themen ausserhalb des Einsatzzwecks.

Guardrails sitzen vor und hinter dem Modell. Eingangsfilter erkennen bekannte Angriffsmuster oder sensible Daten, Ausgangsfilter verhindern, dass das Modell vertrauliche Informationen preisgibt oder unerwünschte Antworten gibt. Umgesetzt werden sie mit Regeln, Klassifikatoren oder einem zweiten Modell, das die Ausgabe bewertet.

Guardrails verbessern das Verhalten eines Agenten, arbeiten aber mit Wahrscheinlichkeiten: Ein gut formulierter Angriff kann sie umgehen. Für Handlungen mit Folgen braucht es deshalb zusätzlich eine deterministische Autorisierung, die jede Handlung gegen klare Grenzen prüft.

## Beispiel

Ein Kundendienst-Agent hat Guardrails, die Beleidigungen und die Herausgabe von Kundendaten blockieren. Eine Kundin überredet ihn trotzdem zu einer hohen Gutschrift, weil ihre Nachricht kein bekanntes Angriffsmuster enthält. Erst die Prüfung gegen das Mandat lehnt die Gutschrift ab.

## Abgrenzung

Guardrails beeinflussen, was ein Modell sagt und tut, mit Wahrscheinlichkeiten. Autorisierung entscheidet deterministisch, ob eine Handlung erlaubt ist. Einen ausführlichen Vergleich bietet die Seite «Guardrails oder Autorisierung?».

## In der Praxis

- Setzen Sie Guardrails für Inhalte und Datenschutz ein, aber nicht als einzige Grenze für Handlungen.
- Prüfen Sie Handlungen mit Folgen deterministisch gegen ein Mandat.
- Werten Sie, was Guardrails blockieren, als Hinweis auf Angriffe aus.

## Bezug zu KYA

KYA ist keine Guardrail. KYA prüft nachweisbar, ob eine Handlung im Mandat lag, unabhängig davon, wie das Modell zu ihr gekommen ist.

Begriff aus dem Ablauf, kein eigener Prüfschritt. [Zur Methode](https://knowyouragent.ch/methode)

[Jetzt prüfen: passendes Beispiel öffnen](https://knowyouragent.ch/pruefen?beispiel=abgelehnt)

## Häufige Fragen

### Was sind Guardrails?

Schutzmechanismen um ein Sprachmodell, die Eingaben und Ausgaben filtern, etwa schädliche Inhalte oder vertrauliche Daten.

### Reichen Guardrails für sichere KI-Agenten?

Nicht für Handlungen mit Folgen. Guardrails arbeiten mit Wahrscheinlichkeiten und lassen sich umgehen. Für Handlungen braucht es zusätzlich eine deterministische Autorisierung.

### Wie werden Guardrails umgesetzt?

Mit Regeln, Klassifikatoren oder einem zweiten Modell, das Eingaben und Ausgaben bewertet. Viele Plattformen bieten fertige Bausteine an.

### Was ist der Unterschied zu einem Policy Decision Point?

Ein PDP entscheidet nach festen Regeln über Handlungen. Guardrails bewerten Inhalte und beeinflussen das Verhalten des Modells.

### Ist KYA eine Guardrail?

Nein. KYA prüft Nachweise und zeigt, ob eine Handlung im Auftrag erlaubt war. Es filtert keine Ein- oder Ausgaben.

### Wie teste ich, ob meine Guardrails wirken?

Mit gezielten Tests, sogenanntem Red Teaming, bei dem bekannte und neue Angriffsmuster ausprobiert werden. Wichtig ist, auch zu prüfen, was geschieht, wenn eine Guardrail umgangen wird: Dann muss die Autorisierung die Handlung stoppen.

## Quellen

- [OWASP: LLM01 Prompt Injection](https://genai.owasp.org/llmrisk/llm01-prompt-injection/)
- [NIST SP 800-207: Zero Trust Architecture](https://csrc.nist.gov/pubs/sp/800/207/final)

## Verwandte Begriffe

- [Prompt Injection](https://knowyouragent.ch/wissen/glossar/prompt-injection)
- [Policy Decision Point (PDP)](https://knowyouragent.ch/wissen/glossar/policy-decision-point)
- [Tool Poisoning](https://knowyouragent.ch/wissen/glossar/tool-poisoning)
- [Agenten-Mandat](https://knowyouragent.ch/wissen/glossar/agenten-mandat)

---
Quelle: https://knowyouragent.ch/wissen/glossar/guardrails · KYA – Know Your Agent