Haftung bei KI-Agentenfehlern: Wer zahlt den Schaden?

Ein Agent verhandelt – und Sie erfahren es zu spät

Stellen Sie sich vor, ein KI-Agent in Ihrem Unternehmen handelt selbstständig eine Vertragsklausel mit einem Geschäftspartner aus. Er ist dafür eingerichtet, Standardkonditionen abzuschließen, entlastet Ihren Vertrieb und arbeitet rund um die Uhr. In einem Fall einigt er sich auf Zahlungsziele und eine Haftungsregel, die ein erfahrener Mitarbeiter so nie akzeptiert hätte. Niemand hat es bemerkt, bis die Rechnung kommt.

Zwei Fragen stellen sich, und sie werden leicht verwechselt. Die erste: Ist Ihr Unternehmen an den Vertrag überhaupt gebunden? Erklärungen, die ein Agent in Ihrem Namen abgibt, werfen Fragen der Vollmacht, der Zurechnung automatisierter Willenserklärungen, des Rechtsscheins und einer möglichen Anfechtung auf (§§ 164 ff. BGB [8]). Ob eine wirksame Bindung entstanden ist, hängt vom Einzelfall ab. Erst danach kommt die zweite Frage: Wer trägt einen daraus entstandenen Schaden? War es ein Softwarefehler des Anbieters, eine Fehlkonfiguration in Ihrem Haus oder ein Zusammenspiel aus beidem? Für die Verhandlungsphase selbst kommt dabei die vorvertragliche Pflichtverletzung in Betracht (§ 311 Abs. 2 i. V. m. § 280 BGB [8]) – die Zurechnung über den Erfüllungsgehilfen (§ 278 BGB) setzt ein bereits bestehendes Schuldverhältnis voraus, das bei der bloßen Anbahnung noch fehlt.

Gerade eine Mitverursachung durch Anbieter und einsetzendes Unternehmen ist denkbar; sie wirkt sich über das Mitverschulden aus (§ 254 BGB [8]) und führt eher zu einer Quotelung als zu einem klaren Schuldigen. Dann wird die Zuordnung streitig, während der Geschäftspartner gegebenenfalls bereits Erfüllung verlangt. Erschwerend kommt hinzu, dass Agenten in Sekunden und parallel handeln können: Ein fehlerhaftes Muster kann sich vervielfachen, bevor jemand eingreift – aus einem Fehler werden dann schnell hundert gleichartige, was nicht nur den Schaden vergrößert, sondern auch die Versicherungsfrage verändert (dazu unten). Bis geklärt ist, wessen Sphäre der Fehler zuzurechnen ist, können Zeit, Anwaltskosten und Geschäftsbeziehung bereits belastet sein. Diese Unsicherheit lässt sich durch vertragliche, technische und organisatorische Vorsorge verringern.

Man könnte das für einen exotischen Randfall halten – und tatsächlich ist uns zum Redaktionsstand keine veröffentlichte deutsche Gerichtsentscheidung zu einem Schaden durch einen autonom handelnden KI-Agenten bekannt. Das ist aber kein Entwarnungssignal, sondern der Grund, warum dies ein Vorsorge- und noch kein Schadensregulierungsthema ist: Die ersten Fälle werden die Maßstäbe setzen, an denen die Sorgfalt aller anderen gemessen wird – rückblickend, auf Grundlage dessen, was damals dokumentiert war.

Die verfügbaren Befunde sprechen jedenfalls für Vorsicht. In einem 2025 veröffentlichten Benchmark, der eine komplette Firma mit internen Systemen nachbildet, löste das beste getestete KI-Agentensystem rund 30 Prozent der mehrstufigen Aufgaben eigenständig [6]. Entscheidend ist dabei weniger der Punktwert als die Richtung: Eine Untersuchung zur Bearbeitungsdauer von Aufgaben zeigt, dass die Zeitspanne, die Modelle mit 50 Prozent Erfolgswahrscheinlichkeit bewältigen, sich seit Jahren etwa alle sieben Monate verdoppelt [12]. Was ein Agent heute nicht allein schafft, schafft er womöglich im nächsten Beschaffungszyklus – und zugleich fällt die Erfolgswahrscheinlichkeit umso steiler, je länger er ohne Zwischenfreigabe arbeitet. Im Allianz Risk Barometer 2026 stieg KI in der Einschätzung der befragten Risikomanager von Platz zehn auf Platz zwei der größten Geschäftsrisiken [7]. Gartner prognostizierte zudem, dass bis Ende 2027 mehr als 40 Prozent der Agentic-AI-Projekte eingestellt würden [9]. Solche Quellen messen unterschiedliche Dinge und belegen keine Haftungsquote und keine Aussage darüber, wer im Schadensfall zahlt; gemeinsam begründen sie aber Vorsicht bei der Einsatzentscheidung – vor allem bei der Frage, wie viel Autonomie Sie einem Agenten überhaupt einräumen sollten.

Ohne vorab festgelegte und dokumentierte Aufsichtspunkte wird vieles davon erst nach dem Schadensfall geklärt – aufwendig, im Streit und mit ungewissem Ausgang. Vorher lässt es sich weitgehend einhegen.

Warum ein Agentenfehler kein Mitarbeiterfehler ist

Bei einem menschlichen Mitarbeiter ist die Verantwortungskette juristisch eingespielt: Arbeitsrecht, Weisungsrecht und eine identifizierbare Entscheidungsperson liefern bekannte Anknüpfungspunkte. Handelt ein autonomer Agent, bleibt zu prüfen, wie dessen Handlung dem einsetzenden Unternehmen zugerechnet wird und wie sich Verantwortungsanteile innerhalb der Lieferkette verteilen. Drei technische Eigenschaften erschweren diese Zuordnung.

Nicht-Determinismus. Dieselbe Eingabe kann bei einem KI-Modell zu unterschiedlichen Ausgaben führen. Bei Modellen und Anbietern, die einen Temperaturparameter anbieten, garantiert selbst der Wert null nicht zwingend identische Antworten [10]. Ein Fehler kann deshalb schwer reproduzierbar sein; klassische Fehlersuche und Beweisführung werden dadurch erschwert.

Drift. Das Verhalten eines bereitgestellten Modells kann sich über die Zeit verändern. Eine Untersuchung von Stanford und Berkeley dokumentierte deutliche Verhaltensänderungen bei untersuchten Sprachmodell-Versionen innerhalb weniger Monate [11]. Die Studie belegt keine universelle Drift aller Modelle, zeigt aber, warum Anbieter-Updates und Modellversionen überwacht werden sollten.

Autonomie ohne Zwischenfreigabe. Ein Agent handelt in einem vorgegebenen Spielraum, den er situationsabhängig ausfüllt. Er kann dabei genau das tun, wofür er konfiguriert wurde, aber auf eine Weise, die niemand vorhergesehen hat. Das ist nicht zwangsläufig ein Produktfehler: Ob ein Fehler im produkthaftungsrechtlichen Sinn vorliegt, hängt insbesondere von der berechtigterweise erwartbaren Sicherheit und den Umständen des Einzelfalls ab.

Auf unser Beispiel übertragen: Der Vertrags-Agent hatte keine Fehlfunktion. Er hat eine ungewöhnliche Formulierung des Geschäftspartners als plausibel eingeordnet und im Rahmen seiner Vollmacht zugestimmt. Ein erfahrener Mensch hätte gestutzt, das Modell hatte dazu keinen Anlass. Der Fehler steckt nicht in einer defekten Zeile Code, sondern im Zusammenspiel aus Spielraum, Situation und Wahrscheinlichkeit. Genau deshalb hilft die Suche nach dem „Schuldigen“ hier so wenig und die Vorsorge so viel.

Damit reichen die vertrauten Kategorien allein oft nicht aus. Es ist gesondert zu prüfen, ob ein Produktfehler, eine fehlerhafte Auswahl oder Konfiguration, eine unzureichende Aufsicht oder mehrere Ursachen zusammen vorliegen. Was in diesem Zwischenraum fehlt, ist ein durchgehend sicherer Haftungs- und Regressweg: offen bleiben können der Rückgriff gegen den Anbieter, die Versicherungsdeckung und der Nachweis eigener Sorgfalt. Diese Risiken lassen sich verringern – etwa durch Evals, also systematische Zuverlässigkeitstests vor und während des Betriebs, und durch Modell-Pinning, also das kontrollierte Festschreiben einer geprüften Modellversion. Wie eng Sie die Grenzen ziehen sollten, lässt sich dabei nicht nur nach Gefühl entscheiden: Messungen zur Aufgabendauer zeigen, dass die Erfolgswahrscheinlichkeit umso steiler fällt, je länger ein Modell ohne Zwischenschritt arbeiten muss [12]. Je länger die Kette ohne Freigabe, desto größer das Risiko – das ist der quantitative Kern hinter der Maßnahme „Entscheidungsgrenzen setzen“.

Wer haftet wofür? Drei Adressaten, keiner passt sauber

Wenn ein Agent Schaden anrichtet, kommen drei Adressaten in Betracht. Sehen wir sie der Reihe nach durch – und warum es bei jedem hakt.

Der Modell-Anbieter

Der naheliegende Gedanke: Das Modell hat den Fehler produziert, also haftet dessen Hersteller. Schon der Modell-Anbieter ist dabei oft kein einzelner Adressat, sondern eine Kette – vom Anbieter des Basismodells über den Anbieter des Agenten-Frameworks bis zum Systemintegrator; ein Regress kann sich über mehrere Vertragsstufen verteilen. Hier sind zwei Wege zu trennen. Der erste ist der vertragliche Rückgriff auf den Anbieter. Ob er besteht und wie weit er reicht, bestimmen der konkrete Vertrag, wirksam einbezogene Haftungsausschlüsse und -obergrenzen sowie das anwendbare Recht. Der zweite ist die gesetzliche Produkthaftung. Die überarbeitete EU-Produkthaftungsrichtlinie erfasst Software einschließlich KI-Systemen ausdrücklich als Produkt und sieht bei besonderer technischer oder wissenschaftlicher Komplexität Beweiserleichterungen vor [13]. Ihr Schadenskatalog umfasst insbesondere Personen-, bestimmte Sach- und bestimmte nicht beruflich genutzte Datenschäden; reine Vermögensschäden als solche erfasst die Richtlinie nicht. Sie gilt für Produkte, die nach dem 9. Dezember 2026 in Verkehr gebracht oder in Betrieb genommen werden. Der deutsche Umsetzungsentwurf lag zum Redaktionsstand im Gesetzgebungsverfahren [14]. Damit löst die Richtlinie die vertragliche B2B-Zuordnung nicht umfassend. Auch der allgemeine deliktische Weg (§ 823 Abs. 1 BGB [8]) greift hier meist nicht, denn er schützt Rechtsgüter wie Eigentum und Gesundheit, nicht das reine Vermögen. Für den typischen Vermögensschaden aus einer schlechten Klausel bleibt gegenüber dem Anbieter damit vor allem der vertragliche Regress – und der ist häufig ausgeschlossen oder der Höhe nach gedeckelt. Genau das macht die Regresslücke im Leitbeispiel greifbar.

Damit ist die Sache aber noch nicht zu Ende, und hier liegt ein verbreiteter Irrtum. Ein Haftungsausschluss in Allgemeinen Geschäftsbedingungen ist nicht deshalb wirksam, weil er im Vertrag steht. Unterliegt der Vertrag deutschem Recht und handelt es sich um vorformulierte Bedingungen, findet eine Inhaltskontrolle statt (§§ 305 ff. BGB [8]). Sie gilt auch zwischen Unternehmen: Ausschlüsse für Vorsatz und grobe Fahrlässigkeit sind unwirksam, ebenso der Ausschluss der Haftung für Kardinalpflichten – also für jene Pflichten, deren Erfüllung den Vertrag überhaupt erst sinnvoll macht und auf die der Kunde vertrauen darf. Auch Haftungshöchstbeträge müssen sich am vertragstypisch vorhersehbaren Schaden messen lassen (§ 307 BGB [8]).

Warum bleibt die Lücke dann bestehen? Weil dieser Schutz häufig gar nicht zur Anwendung kommt. Die Bedingungen international tätiger Modell- und Cloud-Anbieter unterstellen den Vertrag regelmäßig einer ausländischen Rechtsordnung und einem ausländischen Gerichtsstand. Fällt die deutsche Inhaltskontrolle damit weg, wird der Haftungsausschluss an einem Maßstab gemessen, der ihn möglicherweise trägt. Die entscheidende Klausel in Ihrem Anbietervertrag ist deshalb oft nicht die Haftungsklausel selbst, sondern die Rechtswahl davor. Prüfen Sie sie zuerst – sie entscheidet, ob Ihnen das deutsche Schutzniveau überhaupt zur Verfügung steht.

Praktisch bedeutet das: Prüfen Sie vor einem geschäftskritischen Einsatz zuerst Rechtswahl und Gerichtsstand, danach Haftungshöchstbeträge, Ausschlüsse für mittelbare Schäden, Freistellungen und Mitwirkungspflichten. Erst diese Klauseln zusammen zeigen, ob und in welchem Umfang ein Rückgriff realistisch ist.

Das einsetzende Unternehmen

Beim einsetzenden Unternehmen liegen wichtige Anknüpfungspunkte, insbesondere Auswahl, Konfiguration, Vollmacht, Aufsicht und Einbindung in Geschäftsprozesse. Zwei oft zitierte Fälle zeigen mögliche Argumentationsrichtungen – mehr aber auch nicht, denn beide stammen aus dem Ausland und binden deutsche Gerichte nicht. In Kanada sprach ein Tribunal einem Kunden Schadenersatz zu, nachdem der Chatbot einer Fluggesellschaft eine falsche Auskunft gegeben hatte; das Argument, der Bot sei selbst verantwortlich, wurde zurückgewiesen [1]. Der kanadische Fall betraf zwar eine andere Konstellation als unser Vertrags-Agent – eine Falschauskunft gegenüber einem Kunden, keinen Vertragsschluss –, doch der übertragbare Kern ist derselbe: Ein Unternehmen kann sich gegenüber Dritten nicht darauf berufen, ein eigenes KI-System habe für sich selbst gehandelt. Eine allgemeine Haftungsverteilung für autonome Agenten folgt daraus nicht. In den USA ließ das Gericht im Fall Mobley v. Workday Diskriminierungsansprüche gegen den Anbieter in einem frühen Verfahrensstadium weiter zu; eine abschließende Sachentscheidung war das nicht [15]. Für den deutschen Rahmen wird kontrovers diskutiert, wie sich Handlungen autonomer Systeme insbesondere über das Gehilfenrecht des BGB zuordnen lassen (§§ 278, 831 BGB [8]); die Fachliteratur vertritt unterschiedliche Ansätze [16], [17], [18].

Für die Praxis braucht es diesen Streit an einer Stelle gar nicht: Gegenüber Ihrem eigenen Kunden haften Sie vertraglich. Die eingesetzte Software – gleich ob zugekauft oder selbst gebaut – gehört zu den Mitteln, mit denen Sie Ihre Leistung erbringen, und liegt damit grundsätzlich in Ihrer Risikosphäre. Der Hinweis „das war der Softwareanbieter“ entlastet Sie gegenüber dem Kunden also regelmäßig nicht; er verlagert die Frage nur auf den Regress, der – wie beschrieben – seinerseits offen ist. Das ist im Ergebnis derselbe Gedanke, den das kanadische Tribunal formuliert hat, nur auf deutscher Grundlage.

Für die rechtliche Bewertung dürften daher Fragen der Auswahl, Erprobung, Begrenzung und Überwachung besonders relevant sein: War der Agent für die Aufgabe geeignet und getestet? War sein Entscheidungsspielraum angemessen begrenzt? Gab es an kritischen Stellen menschliche Kontrolle und belastbare Protokolle? Welche Anforderungen ein Gericht daraus im konkreten Fall ableitet, hängt jedoch von Anspruchsgrundlage, Einsatzkontext und vorhersehbarem Risiko ab.

Die Betriebs- und Berufshaftpflicht

Bleibt die Versicherung – und hier ist eine pauschale Aussage nicht möglich. Ein Beitrag zur anwaltlichen Berufshaftpflicht zeigt exemplarisch, dass die Deckungsfrage schwieriger werden kann, je weiter die Letztentscheidung vom Menschen abrückt [2]. Daraus folgt keine allgemeine Aussage für jede Betriebs- oder Berufshaftpflicht. Maßgeblich sind die konkrete Police, versicherte Tätigkeiten, Risikoausschlüsse und das Zusammenspiel von Vermögensschaden-, IT- und Cyber-Bausteinen. Dass Munich Re eine spezielle Absicherung für Leistungsrisiken von KI anbietet, belegt die Existenz eines Spezialprodukts, nicht eine allgemeine Marktabdeckung [19]. Der Allianz Risk Barometer 2026 ordnet KI in der Einschätzung der Befragten zugleich als zweitgrößtes Geschäftsrisiko ein [7]. Verlassen Sie sich daher nicht ungeprüft darauf, dass Ihre bestehende Police einen Agentenschaden abdeckt.

Eine Besonderheit verdient dabei eigene Aufmerksamkeit, weil sie erst durch die Automatisierung entsteht. Ein Mensch macht einen Fehler und merkt es. Ein Agent wendet dasselbe fehlerhafte Muster auf hundert Vorgänge an, bevor jemand hinsieht. Für die Versicherung stellt sich dann die Serienschadenfrage: Gelten hundert gleichartige Fehlabschlüsse als ein Versicherungsfall – mit einer Deckungssumme und einer Selbstbeteiligung – oder als hundert? Beide Antworten stehen in der Praxis in Bedingungswerken, und zwischen ihnen liegen Größenordnungen. Bei automatisiert vervielfachten Fehlern ist das die teuerste einzelne Klausel Ihrer Police.

Ein kurzes Gespräch mit Ihrem Versicherer lohnt sich daher früh. Fünf Fragen klären das Wesentliche:

1. Sind reine Vermögensschäden gedeckt – oder nur Personen- und Sachschäden? Der typische Agentenschaden ist ein reiner Vermögensschaden.
2. Greift die Deckung auch dann, wenn das System ohne menschliche Freigabe gehandelt hat?
3. Wie wirkt die Serienschadenklausel, wenn ein Agent denselben Fehler automatisiert vervielfacht?
4. Sind Tätigkeitsschäden am Werk oder an den Daten des Kunden eingeschlossen?
5. Wo verläuft die Grenze zwischen Betriebs-, Vermögensschaden- und Cyber-Baustein – und bleibt dazwischen eine Lücke?

Die Antworten entscheiden, ob Sie eine Deckungslücke schließen müssen, bevor sie sich im Ernstfall zeigt, und sie fließen direkt in die Frage ein, wie viel Autonomie Sie einem Agenten überhaupt einräumen wollen.

Ansprüche werden häufig zuerst gegen das einsetzende Unternehmen gerichtet. Offen bleibt, ob und in welchem Umfang Rückgriff und Versicherungsschutz greifen.

Was der EU AI Act verlangt – und was er offen lässt

Für Hochrisiko-KI-Systeme verlangt der EU AI Act ein Bündel von Vorkehrungen, die auf Risikobegrenzung und Nachvollziehbarkeit zielen [3]. Wichtig ist, wen sie treffen. Anbieter müssen unter anderem ein fortlaufendes Risikomanagement (Art. 9), eine Protokollierungsfunktion (Art. 12), Vorkehrungen für wirksame menschliche Aufsicht (Art. 14) sowie eine Marktbeobachtung nach Inverkehrbringen (Art. 72) vorsehen. Für Betreiber gilt vor allem Art. 26: das System bestimmungsgemäß nutzen, die menschliche Aufsicht kompetenten Personen übertragen, den Betrieb überwachen und die verfügbaren Protokolle aufbewahren. Die Digital-Omnibus-Verordnung (EU) 2026/1744 vom 8. Juli 2026 – am 24. Juli 2026 im Amtsblatt veröffentlicht und seit dem 27. Juli 2026 in Kraft – setzt den Anwendungsbeginn dieser Hochrisiko-Regeln nun verbindlich auf den 2. Dezember 2027 für Systeme nach Anhang III (eigenständige Anwendungen wie Personalauswahl oder Kreditvergabe) und auf den 2. August 2028 für Systeme nach Anhang I (Sicherheitsbauteile regulierter Produkte) [4]. Die Verschiebung ist damit keine Ankündigung mehr, sondern geltendes Recht.

Eine Pflicht des AI Act trifft Sie allerdings schon heute, und zwar unabhängig davon, ob Ihr Agent als Hochrisiko-System gilt: die KI-Kompetenz nach Art. 4. Sie gilt seit dem 2. Februar 2025 für Anbieter und Betreiber jedes KI-Systems. Die Digital-Omnibus-Verordnung hat sie mit Wirkung ab dem 27. Juli 2026 abgeschwächt: Statt ein ausreichendes Kompetenzniveau sicherstellen zu müssen, müssen Anbieter und Betreiber jetzt „Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz“ ihres Personals zu unterstützen; ein bestimmtes Niveau für eine einzelne Person muss niemand garantieren [4]. Aus der Erfolgspflicht wird eine Bemühenspflicht – und damit verschiebt sich der Nachweis von „mein Personal kann das“ zu „ich habe nachweislich etwas dafür getan“. Wer seine Schulungen dokumentiert, erfüllt beides zugleich: die heute geltende Pflicht und die Beweisvorsorge für den Streitfall.

Bemerkenswert ist noch eine Randnotiz derselben Verordnung. Sie fügt dem AI Act einen Anhang XIV an – ein Verzeichnis von Codes, mit dem der Zuständigkeitsbereich notifizierter Prüfstellen beschrieben wird. Unter dem Code AIH 0401 stehen dort „KI-Systeme, die auf anderen neuen KI-Technologien beruhen, […] einschließlich agentischer KI“ [4]. Es ist, soweit ersichtlich, die erste Nennung agentischer KI im verbindlichen Recht der Union. Man sollte nicht mehr hineinlesen, als drinsteht: Das ist eine technische Nomenklatur für Prüfstellen, keine eigene Regelungskategorie und keine neue Pflicht. Aber es zeigt die Richtung. Der Gesetzgeber kennt den Begriff jetzt – eine eigene Regel für ihn hat er noch nicht.

Ob Ihr Agent unter diese Pflichten fällt, hängt von seinem Einsatzzweck ab. Als Hochrisiko gelten nach dem AI Act unter anderem Systeme in der Personalauswahl, bei der Kreditvergabe, in kritischer Infrastruktur oder als sicherheitsrelevanter Bestandteil regulierter Produkte. Ein Agent, der Bestellungen auslöst oder Verträge anbahnt, fällt nicht automatisch darunter, kann es je nach Einsatz aber sehr wohl. Diese Einordnung ist keine Formalie, sondern der erste, oft unterschätzte Schritt Ihrer Vorsorge.

Der entscheidende Haken steht nicht im Gesetz, sondern in seiner Logik: Diese Vorkehrungen schützen Sie nur, wenn Sie sie vor einem Vorfall eingerichtet und dokumentiert haben. Nachträglich lässt sich dokumentierte Aufsicht nicht herstellen.

Und drei Dinge lässt der AI Act ausdrücklich offen:

• Er ist öffentlich-rechtliche Compliance, kein Haftungsrecht. Er schreibt vor, was Sie tun müssen – nicht, wer am Ende den Schaden zahlt.
• Ob Ihr konkreter Agent überhaupt als „Hochrisiko“ gilt, ist Auslegungssache. Zum Redaktionsstand lagen die abschließenden Leitlinien zur praktischen Anwendung der menschlichen Aufsicht nicht vor. Diese Einstufung sollten Sie nicht dem Zufall überlassen.
• Eine unionsweit einheitliche Sonderregel für die zivilrechtliche Haftung bei KI-Schäden fehlt. Die EU hatte dafür eine KI-Haftungsrichtlinie vorgeschlagen und den Vorschlag 2025 wieder zurückgezogen [5]. Maßgeblich bleiben insbesondere Produkthaftungsrecht und nationales Vertrags- und Deliktsrecht.

Was Sie jetzt tun sollten: die Lücke vor dem Vorfall verkleinern

Die Lösung ist unspektakulär, aber wirksam: Legen Sie fest und dokumentieren Sie, wo Ihr Agent eigenständig entscheiden darf, wo ein Mensch zustimmen muss und wie beides nachgehalten wird. Neun Vorkehrungen bilden das Fundament. Ihr eigentlicher Charme: Die meisten zahlen gleichzeitig auf drei Konten ein – sie senken das Risiko, unterstützen die Konformität mit dem AI Act und verbessern im Streitfall Ihre Beweisposition. Die Spalte „Wer · Aufwand“ nennt eine grobe Hausnummer für ein mittelständisches Unternehmen mit einem produktiven Agenten; sie ersetzt keine Aufwandsschätzung für Ihren Fall.

Diese neun Punkte sind kein bürokratischer Selbstzweck. Sie sind Risikosteuerung, Beitrag zur Compliance und Beweisvorsorge in einem. Wer sie eingerichtet hat, gestaltet seine Haftungslage bewusst und kann sie belegen. Wer sie nicht hat, geht mit ungewissem Ausgang in den Einzelfall.

Eine naheliegende Frage sei hier ausdrücklich beantwortet: Wäre es nicht einfacher, dem Agenten schlicht keine bindende Entscheidungsbefugnis zu geben? Für viele Einsatzfälle ist genau das die richtige Antwort – es ist die dritte Maßnahme dieser Liste, konsequent zu Ende gedacht, und sie nimmt dem Leitbeispiel dieses Whitepapers die Grundlage. Sie ersetzt die übrigen Vorkehrungen aber nicht. Erstens ist „keine Abschlussvollmacht“ selbst nur dann etwas wert, wenn sie festgelegt, technisch durchgesetzt und überprüfbar dokumentiert ist – sonst ist sie eine Absichtserklärung. Zweitens entsteht Haftung auch ohne Vollmacht: durch eine falsche Auskunft, eine ausgelöste Bestellung, eine fehlerhaft verarbeitete Kundenangabe. Und drittens verschiebt sich die Grenze des wirtschaftlich Sinnvollen mit jeder Modellgeneration; wer heute „nie autonom“ entscheidet, entscheidet in zwei Jahren neu – und sollte den Rahmen bis dahin stehen haben.

Sie müssen nicht alles auf einmal umsetzen. Beginnen Sie mit einer dokumentierten Risikoeinstufung, klar definierten Freigabeschwellen und einem vollständigen Protokoll. Damit verringern Sie das Risiko eines unbeaufsichtigten Agenten ohne belastbaren Nachweis. Alles Weitere bauen Sie Schritt für Schritt aus; der geänderte AI-Act-Zeitplan verschafft zusätzliche Vorbereitungszeit, lässt die seit 2025 geltende KI-Kompetenzpflicht und mögliche zivilrechtliche Ansprüche aber unberührt.

Fazit

Wer haftet, wenn die KI entscheidet? Nach außen zunächst Ihr Unternehmen – gegenüber Kunden und Geschäftspartnern bleiben Sie der erste Ansprechpartner; die eigentliche Unsicherheit liegt dahinter. Die Haftungslücke bei Agentenfehlern ist deshalb kein reines Zukunftsthema, sondern ein Risiko im laufenden Betrieb. Vertragliche und deliktische Ansprüche können bereits heute entstehen; unsicher bleiben im Einzelfall der Rückgriff auf den Anbieter – bei dem meist die Rechtswahlklausel und nicht die Haftungsklausel den Ausschlag gibt –, die Versicherungsdeckung und der Nachweis eigener Sorgfalt. Der AI Act beantwortet diese zivilrechtlichen Fragen nicht; seine Hochrisiko-Pflichten sind verbindlich auf 2027 und 2028 verschoben, seine KI-Kompetenzpflicht gilt dagegen schon seit 2025. Dokumentierte Risikoeinstufungen, klare Entscheidungsgrenzen, menschliche Aufsicht und belastbare Protokolle können das Risiko verringern und die Nachweisfähigkeit gegenüber Gerichten, Aufsicht, Versicherern und Geschäftspartnern stärken. Veröffentlichte deutsche Entscheidungen zu autonomen Agenten gibt es bislang nicht – wer vorbereitet ist, wenn die ersten kommen, verhandelt aus einer anderen Position.

Quellen