Haftung bei KI-Agenten: Wer zahlt, wenn ein Agent falsch kauft?

Das Wichtigste in Kürze

• Ein KI-Agent ist kein Rechtssubjekt; seine Erklärungen werden in der Regel dem Einsetzenden zugerechnet.
• Ausserhalb des erteilten Rahmens bindet ein Geschäft grundsätzlich nur nach Genehmigung.
• Die Schweiz, Deutschland und Österreich folgen ähnlichen Mustern, im Detail mit Unterschieden.
• Prüfbare Nachweise entschärfen Streitfälle, weil sie die entscheidenden Tatsachen belegen.

Der Grundsatz: Zurechnung an den Einsetzenden

Ein KI-Agent gibt keine eigene Willenserklärung ab. Nach verbreiteter Auffassung werden automatisiert erzeugte Erklärungen in allen drei Ländern dem zugerechnet, der das System einsetzt; in Deutschland spricht man von Computererklärungen. Wer einen Agenten für sich bestellen lässt, muss sich dessen Erklärungen deshalb grundsätzlich entgegenhalten lassen.

Daneben wird diskutiert, die Regeln der Stellvertretung entsprechend anzuwenden. Dann kommt es auf die Vertretungsmacht an, also auf den Rahmen, den der Auftraggeber gesetzt hat. Beide Wege führen in der Praxis zur selben Frage: Lag die Handlung innerhalb dessen, wofür der Agent eingesetzt wurde, und kann das jemand belegen?

Schweiz: Obligationenrecht

Ein Vertrag entsteht durch übereinstimmende Willensäusserung (Art. 1 OR). Für die Stellvertretung gelten Art. 32 ff. OR. Wurde die Ermächtigung einem Dritten mitgeteilt, beurteilt sich ihr Umfang diesem gegenüber nach der Kundgabe (Art. 33 Abs. 3 OR). Ein Geschäft ohne Ermächtigung bindet den Vertretenen nur, wenn er es genehmigt (Art. 38 OR); andernfalls haftet der vollmachtlose Vertreter nach Art. 39 OR.

Bei Fehlern kommen die Regeln über den Irrtum in Betracht (Art. 23 ff. OR). Für Vertragsverletzungen gilt Art. 97 OR, für Hilfspersonen Art. 101 OR; ob diese Bestimmung auf Software anwendbar ist, wird in der Lehre unterschiedlich beurteilt. Ausservertraglich bleibt Art. 41 OR, für fehlerhafte Produkte das Produktehaftpflichtgesetz.

Deutschland: Bürgerliches Gesetzbuch

Die Stellvertretung regeln §§ 164 ff. BGB. Ein Vertrag ohne Vertretungsmacht ist schwebend unwirksam, bis der Vertretene ihn genehmigt (§ 177 BGB). Der Vertreter haftet nach § 179 BGB, sofern er seine Vertretungsmacht nicht nachweist. Die Rechtsprechung kennt zudem Anscheins- und Duldungsvollmacht, wenn der Vertretene den Anschein einer Befugnis zurechenbar gesetzt hat.

Beruht eine falsche Erklärung auf einem Fehler bei der Verarbeitung, kann unter Umständen eine Anfechtung wegen Irrtums in Frage kommen (§ 119 BGB), verbunden mit dem Ersatz des Vertrauensschadens (§ 122 BGB). Für Erfüllungsgehilfen gilt § 278 BGB, ausservertraglich § 823 BGB.

Österreich: ABGB

In Österreich regeln §§ 1002 ff. ABGB den Bevollmächtigungsvertrag. Überschreitet der Gewalthaber seine Vollmacht, ist der Machtgeber nur verbunden, soweit er das Geschäft genehmigt (§ 1016 ABGB). Wer ohne ausreichende Vollmacht handelt, haftet dem Dritten (§ 1019 ABGB). Auch hier schützt die Rechtsprechung das Vertrauen Dritter, wenn der Vertretene den Anschein einer Vollmacht verursacht hat.

Für Irrtümer gilt § 871 ABGB, für Erfüllungsgehilfen § 1313a ABGB. Wie diese Regeln auf KI-Agenten anzuwenden sind, ist in allen drei Ländern noch nicht abschliessend geklärt. Die Grundmuster sind aber ähnlich: Zurechnung, Rahmen, Genehmigung und Vertrauensschutz.

Ein Fall in drei Varianten

Eine Kundin beauftragt ihren Agenten, ein Hotelzimmer bis 200 Franken pro Nacht zu buchen. Variante A: Der Agent bucht für 180 Franken. Die Handlung liegt im Rahmen, der Vertrag bindet, Streit gibt es kaum.

Variante B: Der Agent bucht eine Suite für 900 Franken. Kannte das Hotel die Grenze nicht, hängt das Ergebnis davon ab, wie man die Erklärung zurechnet und welchen Anschein die Kundin gesetzt hat. Kannte das Hotel die Grenze, etwa weil das Mandat mitgeliefert wurde, spricht viel dafür, dass es sich nicht auf die Buchung berufen kann.

Variante C: Eine versteckte Anweisung auf einer Website bringt den Agenten dazu, ein falsches Hotel zu buchen. Neben Zurechnung und Irrtum stellt sich hier die Frage nach Ansprüchen gegen den Anbieter. Die neue EU-Richtlinie (EU) 2024/2853 bezieht Software ausdrücklich in die Produkthaftung ein; sie ist bis 9. Dezember 2026 umzusetzen.

Was die Haftungsfrage entschärft

Die meisten Streitfälle drehen sich nicht um Rechtsfragen, sondern um Tatsachen: Was war erlaubt, was wurde entschieden, was geschah? Wer diese Fragen mit Nachweisen beantworten kann, hat einen klaren Vorteil.

• Ein Mandat mit Grenzen, das der Agent gegenüber Händlern vorlegt, macht den Rahmen für beide Seiten sichtbar.
• Ein Entscheid vor der Ausführung hält fest, dass die konkrete Handlung geprüft wurde.
• Ein Ausführungsbeleg zeigt, was tatsächlich geschah, und ein Zeitstempel, wann.
• Allgemeine Geschäftsbedingungen können regeln, wie Bestellungen durch Agenten behandelt und welche Nachweise verlangt werden.

Die Rolle von KYA

KYA beantwortet keine Rechtsfragen. KYA macht aber die Tatsachen prüfbar, auf die es ankommt: ob ein Mandat zum Zeitpunkt der Handlung gültig war, ob die Handlung in seinem Umfang lag, ob es widerrufen war und ob die Ausführung dem Entscheid entsprach. Das Ergebnis ist ein Prüfschein, den jede Seite unabhängig nachrechnen kann.

Ob ein Gericht diesem Nachweis folgt, entscheidet es in freier Beweiswürdigung. Ein unabhängig prüfbarer Nachweis ist aber deutlich stärker als ein Protokolleintrag im eigenen System. Nachweis jetzt prüfen.

Häufige Fragen

Haftet der Nutzer, wenn sein KI-Agent etwas Falsches kauft?

Grundsätzlich werden die Erklärungen des Agenten dem zugerechnet, der ihn einsetzt. Lag der Kauf ausserhalb des erteilten Rahmens und kannte der Händler diesen Rahmen, kann das Ergebnis anders ausfallen. Entscheidend sind die Umstände des Einzelfalls.

Kann ein Händler einen Kauf durch einen Agenten ablehnen?

Ja. Ein Händler entscheidet selbst, mit wem er Verträge schliesst. Er kann Bestellungen von Agenten an Bedingungen knüpfen, etwa an einen prüfbaren Nachweis der Befugnis.

Haftet der Anbieter des KI-Modells?

Das hängt von Vertrag, Fehlerursache und anwendbarem Recht ab. In der EU erfasst die neue Produkthaftungsrichtlinie ausdrücklich Software; sie gilt für Produkte, die nach dem 9. Dezember 2026 in Verkehr gebracht werden.

Wie beweise ich, dass mein Agent seine Grenzen überschritten hat?

Mit dem Mandat, das die Grenzen festhält, und dem Beleg der tatsächlichen Handlung. Beide zusammen zeigen die Abweichung. Ein Prüfschein von KYA macht das für Dritte nachrechenbar.

Allgemeine Information, keine Rechtsauskunft. Massgebend sind die Gesetzestexte und die Umstände des Einzelfalls.

Quellen

1. Obligationenrecht (OR), Art. 32–40: https://www.fedlex.admin.ch/eli/cc/27/317_321_377/de#art_32
2. Bürgerliches Gesetzbuch (BGB), §§ 164–181: https://www.gesetze-im-internet.de/bgb/__164.html
3. Allgemeines bürgerliches Gesetzbuch (ABGB), §§ 1002 ff.: https://www.ris.bka.gv.at/NormDokument.wxe?Abfrage=Bundesnormen&Gesetzesnummer=10001622&Paragraf=1002
4. Richtlinie (EU) 2024/2853 über die Haftung für fehlerhafte Produkte: https://eur-lex.europa.eu/eli/dir/2024/2853/oj