Wenn der Agent etwas zusagt, das nicht stimmt

Wer für die Aussage eines KI-Agenten haftet, ist keine offene Frage: der Betreiber. Offen ist nur, über welchen der drei Wege das im Einzelfall läuft, über die Zurechnung der Erklärung, die Produkthaftung oder den Vertrag mit dem Dienstleister, der das System gebaut hat.

Der bekannteste Fall dazu ist klein, alt und trotzdem der beste Einstieg, weil das Gericht genau das Argument abgeräumt hat, das Unternehmen zuerst einfällt.

Der Fall, der die Diskussion beendet hat

Jake Moffatt buchte im November 2022 kurzfristig einen Flug bei Air Canada, nachdem seine Großmutter gestorben war. Der Chatbot auf der Website teilte ihm mit, er könne den Trauerfalltarif nachträglich beantragen. Das stimmte nicht; Air Canada gewährt den Tarif nur vorab.

Vor dem Civil Resolution Tribunal in British Columbia argumentierte die Fluggesellschaft, der Chatbot sei eine eigenständige Einheit, die für ihre Aussagen selbst verantwortlich sei. Das Tribunal wies das im Februar 2024 zurück: Der Chatbot ist Teil der Website von Air Canada, und Air Canada ist für alle Informationen auf ihrer Website verantwortlich, unabhängig davon, ob sie auf einer statischen Seite oder in einem Chatfenster stehen. Moffatt bekam 650,88 kanadische Dollar Schadenersatz wegen fahrlässiger Falschauskunft, dazu Zinsen und Verfahrensgebühren.

Der Streitwert ist ein Witz. Die Aussage ist es nicht: Ein Unternehmen kann sich nicht hinter seinem eigenen System verstecken.

Die Entscheidung stammt aus Kanada und bindet in Deutschland niemanden. Sie ist trotzdem der Fall, den jeder zitiert, weil sie die Verteidigungslinie benennt, die intuitiv ist und nirgendwo funktioniert. Nach deutschem Verständnis wird die automatisierte Erklärung dem Betreiber zugerechnet, weil das System kein Rechtssubjekt ist und also nichts eigenes erklären kann.

Mechanismus 1: Was der Agent sagt, sagt ihr

Die erste und häufigste Zurechnung passiert im Vertragsrecht. Wenn euer System einem Kunden einen Preis nennt, eine Lieferzeit zusagt oder eine Kulanz gewährt, ist das eine Erklärung eures Unternehmens.

Praktisch heißt das: Der Spielraum, den ihr dem Agenten gebt, ist der Spielraum, den ihr einräumt. Ein Agent, der Rabatte bis zehn Prozent gewähren darf, gewährt in eurem Namen bis zehn Prozent, auch in dem Fall, in dem er es nicht hätte tun sollen. Die Frage im Entwurf ist deshalb nie „was kann das Modell”, sondern „welche Zusagen darf dieser Vorgang machen, und sind sie rückholbar”.

Rückholbarkeit ist die eigentliche Konstruktionsentscheidung. Ein Entwurf, den jemand freigibt, ist folgenlos. Eine automatisch versendete Gutschrift ist es nicht. Wir haben die Grenze in Agent oder Workflow mit einem LLM-SchrittEN (in English) an derselben Stelle gezogen, aus demselben Grund.

Mechanismus 2: Ab 9. Dezember 2026 ist Software ein Produkt

Die neue EU-Produkthaftungsrichtlinie (EU) 2024/2853 ist am 8. Dezember 2024 in Kraft getreten und muss bis zum 9. Dezember 2026 in nationales Recht umgesetzt sein. Sie verändert zwei Dinge, die für jeden gelten, der Software oder KI-Systeme in Verkehr bringt.

Software und KI-Systeme sind Produkte. Bisher hing die Produkthaftung an körperlichen Gegenständen; unkörperliche Software fiel weitgehend heraus. Künftig nicht mehr. Ausgenommen bleibt im Wesentlichen freie Software außerhalb einer Geschäftstätigkeit.

Die Haftungshöchstgrenze fällt. Die bisherige Deckelung bei 85 Millionen Euro entfällt ersatzlos.

Dazu kommt, dass fehlende Updates und ungepatchte Sicherheitslücken ausdrücklich als Fehler in Betracht kommen. Ein System, das bei Auslieferung sicher war und zwei Jahre später nicht mehr gepflegt wird, ist damit ein Haftungsthema und nicht nur ein Wartungsthema.

Ein Detail, das in den meisten Zusammenfassungen fehlt: Das neue Recht gilt für Produkte, die nach dem 9. Dezember 2026 in Verkehr gebracht werden. Für alles, was vorher ausgeliefert wurde, bleibt die alte Richtlinie von 1985 maßgeblich. Der Stichtag ist also kein Schalter, der eine Software-Landschaft auf einmal umstellt, sondern eine Trennung zwischen Jahrgängen.

Umsetzungsfrist der neuen Produkthaftungsrichtlinie: 9. Dezember 2026. Wegfall der Haftungshöchstgrenze: 85 Millionen Euro, ersatzlos.

Richtlinie (EU) 2024/2853, in Kraft seit 8. Dezember 2024

Für den typischen Mittelständler, der KI einsetzt statt sie zu verkaufen, ist das keine unmittelbare Bedrohung, weil Produkthaftung den Hersteller trifft und nicht den Anwender. Interessant wird es an zwei Stellen: wenn ihr eigene Software an Kunden gebt, und wenn ihr prüft, wer bei eurem Anbieter eigentlich Hersteller ist. Die zweite Frage gehört ohnehin in jede AVV-Prüfung.

Mechanismus 3: Der Vertrag mit dem, der es gebaut hat

Zwischen euch und dem Dienstleister entscheidet der Vertrag, und dort steht in der Praxis meist wenig Brauchbares.

Vier Punkte sind es wert, verhandelt zu werden. Wer trägt den Schaden, wenn der Agent innerhalb seiner Freigabe etwas Falsches tut, und wer, wenn er außerhalb handelt? Was gilt als Betriebsstörung mit Reaktionszeit und was als neue Anforderung? Wer hat Zugriff auf die Protokolle, und zwar so, dass ihr sie ohne den Dienstleister lesen könnt? Und was passiert bei Kündigung mit Zugängen, Konfiguration und Historie?

Der dritte Punkt entscheidet die anderen drei. Ohne eigene Protokolle könnt ihr nicht beweisen, was der Agent gesagt hat, und ohne diesen Beweis ist jede Haftungsverteilung Theorie. Das ist dieselbe Abhängigkeit wie bei der Frage, wem der Agent gehört, wenn die Agentur geht.

Was daraus für den Betrieb folgt

Vier Dinge, und keines davon ist juristische Arbeit.

Schreibt auf, was der Agent zusagen darf. Als Liste, mit Grenzen: Beträge, Fristen, Ausnahmen. Was nicht auf der Liste steht, geht an einen Menschen. Diese Liste ist gleichzeitig die Spezifikation und die Haftungsbegrenzung.

Protokolliert vollständig und lesbar. Eingabe, Antwort, Zeitpunkt, Version, welche Datenquelle abgefragt wurde. Ein Protokoll, das nur eure Dienstleisterin lesen kann, hilft im Streitfall niemandem.

Setzt die Rückholbarkeit an die richtige Stelle. Alles, was Geld bewegt, Verträge ändert oder nach außen unwiderruflich ist, braucht entweder einen engen Rahmen oder einen Menschen. Alles andere darf laufen.

Sagt es dazu. Seit dem 2. August 2026 gilt die Transparenzpflicht aus Artikel 50 des AI Acts für Systeme, die mit Menschen interagieren. Ein Kunde, der weiß, dass er mit einem System spricht, prüft anders, und ein Gericht liest den Vorgang anders. Die Einordnung dazu steht in unserem Artikel zum 2. August.

Die Frage, die vor allem anderen kommt

Bevor ihr über Haftung nachdenkt, klärt eine einfachere Sache: Was passiert heute, wenn ein Mensch bei euch dasselbe falsch zusagt?

In den meisten Firmen ist die Antwort: Es fällt auf, jemand ruft an, man einigt sich. Es gibt eine Kulanzgrenze, die niemand aufgeschrieben hat, und einen Menschen, der entscheidet. Genau diese ungeschriebene Grenze muss vor der Automatisierung auf Papier, nicht wegen des Agenten, sondern weil man einem System keine Regel geben kann, die es nicht gibt.

Firmen, die das aufschreiben, stellen regelmäßig fest, dass die Hälfte der Diskussion nichts mit KI zu tun hat. Das ist kein verschwendeter Nachmittag. Es ist der Teil des Projekts, der auch dann noch Wert hat, wenn ihr den Agenten am Ende nicht baut.

Wenn ihr diese Grenzen für einen konkreten Vorgang ziehen wollt, sprecht dreißig Minuten mit uns.

Häufige Fragen zur Haftung für KI-Agenten