EU AI Act und KI-Agenten: was für Agenten gilt

Das Wichtigste in Kürze

• Die Verordnung (EU) 2024/1689 kennt keinen eigenen Begriff für KI-Agenten.
• Pflichten richten sich nach Rolle, Anbieter oder Betreiber, und nach dem Risiko des Einsatzes.
• Für Agenten im Kontakt mit Menschen sind die Transparenzpflichten nach Art. 50 besonders relevant.
• Die Schweiz hat kein eigenes KI-Gesetz und passt ihr Recht sektoriell an.

Agenten im Sinn der Verordnung

Der AI Act definiert KI-Systeme als maschinengestützte Systeme, die mit unterschiedlichem Grad an Autonomie arbeiten und aus Eingaben Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen ableiten (Art. 3 Nr. 1). Ein KI-Agent fällt in aller Regel darunter. Einen eigenen Begriff für Agenten gibt es nicht.

Viele Agenten beruhen auf KI-Modellen mit allgemeinem Verwendungszweck. Für deren Anbieter gelten eigene Pflichten, etwa zu technischer Dokumentation und Informationen für nachgelagerte Anbieter (Art. 53). Wer einen Agenten auf einem solchen Modell baut, ist in der Regel selbst Anbieter des Agenten als KI-System.

Rollen: Anbieter und Betreiber

Die Pflichten knüpfen an Rollen an. Anbieter entwickeln ein KI-System oder lassen es entwickeln und bringen es unter eigenem Namen in Verkehr. Betreiber setzen ein KI-System in eigener Verantwortung ein. Ein Unternehmen, das einen eingekauften Agenten für die Beschaffung nutzt, ist Betreiber; ein Softwarehaus, das den Agenten anbietet, ist Anbieter.

Die Verordnung gilt auch für Anbieter und Betreiber ausserhalb der EU, wenn das Ergebnis des Systems in der EU verwendet wird (Art. 2). Für Schweizer Unternehmen mit Kundschaft oder Tätigkeit in der EU ist das relevant.

Transparenz: Wenn Agenten mit Menschen sprechen

Für Agenten besonders relevant ist Art. 50. Anbieter müssen KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so gestalten, dass diese Personen erfahren, dass sie mit einem KI-System interagieren, sofern das nicht offensichtlich ist. Ein Agent, der bei einem Kundendienst anruft oder einer Sachbearbeiterin schreibt, kann darunter fallen.

Weitere Transparenzpflichten betreffen künstlich erzeugte Inhalte. Welche Pflicht im Einzelfall greift, hängt von Funktion und Einsatz des Agenten ab.

Hochrisiko-Anwendungen, Protokollierung und Aufsicht

Setzt ein Agent in einem Bereich ein, den die Verordnung als hochriskant einstuft, etwa bei bestimmten Entscheiden über Kredite, Beschäftigung oder den Zugang zu wesentlichen Leistungen, gelten strengere Anforderungen. Dazu gehören die automatische Aufzeichnung von Ereignissen (Art. 12), menschliche Aufsicht (Art. 14) und Pflichten der Betreiber (Art. 26).

Unabhängig von der Risikoklasse verlangt die Verordnung seit dem 2. Februar 2025, dass Anbieter und Betreiber für ausreichende KI-Kompetenz ihres Personals sorgen (Art. 4).

Fristen

Die EU-Kommission hat 2025 Anpassungen an einzelnen Fristen vorgeschlagen. Massgebend ist der jeweils geltende Verordnungstext auf EUR-Lex.

Die Lage in der Schweiz

Die Schweiz hat kein eigenes KI-Gesetz. Der Bundesrat hat im Februar 2025 entschieden, die Rahmenkonvention des Europarats über künstliche Intelligenz zu ratifizieren und die nötigen Anpassungen möglichst sektoriell im bestehenden Recht vorzunehmen. Für Schweizer Unternehmen gelten daneben das Datenschutzgesetz und, bei Tätigkeit in der EU, die europäischen Vorgaben.

Für Agenten bedeutet das in der Praxis: Wer in beiden Märkten tätig ist, orientiert sich an den strengeren Anforderungen und dokumentiert, wie Agenten eingesetzt und kontrolliert werden.

Wo prüfbare Nachweise helfen

Nachvollziehbarkeit zieht sich durch die Verordnung: Aufzeichnungen, Dokumentation, menschliche Aufsicht. Mandate, Entscheide und Belege für Agenten-Handlungen liefern genau die Art von Nachweisen, mit denen ein Unternehmen zeigen kann, was ein Agent durfte, wie entschieden wurde und was geschah.

KYA prüft solche Nachweise unabhängig. Das ersetzt weder eine Konformitätsbewertung noch eine rechtliche Beurteilung, schafft aber eine belastbare Grundlage für beides. Eine praktische Liste für die Einführung bietet die Checkliste für KI-Agenten.

Was Unternehmen jetzt tun können

Unabhängig von der Rolle lohnt sich eine Bestandsaufnahme: Welche Agenten sind im Einsatz, wofür, mit welchem Risiko? Darauf aufbauend lassen sich Pflichten zuordnen und Nachweise aufbauen.

Häufige Fragen

Regelt der AI Act KI-Agenten ausdrücklich?

Nein. Die Verordnung kennt keinen eigenen Begriff für Agenten. Agenten fallen in der Regel unter die Definition eines KI-Systems, und die Pflichten richten sich nach Rolle und Risiko.

Gilt die Verordnung für Schweizer Unternehmen?

Sie kann gelten, wenn ein Schweizer Unternehmen KI-Systeme in der EU in Verkehr bringt oder das Ergebnis eines Systems in der EU verwendet wird. Ob das zutrifft, hängt vom Einzelfall ab.

Muss ein Agent sich als KI zu erkennen geben?

Wenn er für die direkte Interaktion mit natürlichen Personen bestimmt ist und das nicht offensichtlich ist, verlangt Art. 50, dass die Personen informiert werden. Die Pflicht trifft den Anbieter bei der Gestaltung des Systems.

Macht KYA ein Unternehmen regelkonform?

Nein. KYA prüft technische Nachweise über Agenten-Handlungen. Das kann Dokumentation und Nachvollziehbarkeit unterstützen, ersetzt aber keine rechtliche Beurteilung und keine Konformitätsbewertung.

Was bedeutet KI-Kompetenz nach der Verordnung?

Anbieter und Betreiber sorgen dafür, dass Personen, die KI-Systeme in ihrem Auftrag betreiben oder nutzen, über ausreichende Kenntnisse verfügen. Das gilt seit dem 2. Februar 2025.

Wo finde ich den Verordnungstext?

Auf EUR-Lex, dem Amtsblatt der Europäischen Union. Massgebend ist die jeweils geltende Fassung.

Wer ist bei eingekauften Agenten Anbieter?

In der Regel das Unternehmen, das den Agenten entwickelt und unter eigenem Namen anbietet. Wer ihn einsetzt, ist Betreiber.

Allgemeine Information, keine Rechtsauskunft. Massgebend sind die Gesetzestexte und die Umstände des Einzelfalls.

Quellen

1. Verordnung (EU) 2024/1689 (AI Act), EUR-Lex: https://eur-lex.europa.eu/eli/reg/2024/1689/oj
2. Europarat: Rahmenkonvention über künstliche Intelligenz: https://www.coe.int/en/web/artificial-intelligence/the-framework-convention-on-artificial-intelligence