KI-Versicherung für Unternehmen: Brauche ich eine KI-Haftpflicht?

Der Chatbot macht einem Kunden eine falsche Zusage. Das KI-gestützte Qualitätssystem lässt ein fehlerhaftes Bauteil durch. Die automatisierte Bewerbervorauswahl sortiert systematisch aus. Wer zahlt den Schaden? Die bestehende Betriebshaftpflicht? Eine neue KI-Versicherung? Oder am Ende du persönlich?

Dieser Artikel klärt, welche Haftungsrisiken KI im Geschäftsbetrieb erzeugt, welche bestehenden Versicherungen greifen und wann du tatsächlich eine dedizierte KI-Versicherung brauchst.

Wer haftet, wenn KI Fehler macht?

Die Antwort ist weniger kompliziert als viele denken. Es gibt drei rechtliche Grundlagen, die bei KI-Schäden relevant werden.

Produkthaftung (ProdHaftG)

Die Produkthaftung greift, wenn ein Produkt fehlerhaft ist und dadurch ein Schaden entsteht. Bisher galt das vor allem für physische Produkte. Mit der überarbeiteten EU-Produkthaftungsrichtlinie (PLD, Richtlinie (EU) 2024/2853) vom November 2024 werden Software und KI-Systeme ausdrücklich als Produkte erfasst.

Was das für dich bedeutet: Wenn du KI-Software herstellst oder unter eigenem Namen vertreibst, haftest du als Hersteller verschuldensunabhängig. Wenn du KI-Komponenten in dein Produkt integrierst (z. B. ein KI-Modul in deiner SaaS-Lösung), haftest du für das Gesamtprodukt. Reine Anwender von KI-Tools (z. B. du nutzt ChatGPT für Kundenmails) fallen nicht unter die Produkthaftung, sondern unter Vertrags- oder Deliktshaftung.

Die neue PLD gilt ab Dezember 2026 in allen EU-Mitgliedstaaten.

Vertragshaftung (§§ 280 ff. BGB)

Wenn du gegenüber deinem Kunden eine Leistung erbringst und dabei KI einsetzt, haftest du für Pflichtverletzungen nach allgemeinem Vertragsrecht. Das KI-Tool ist dein Erfüllungsgehilfe. Ob der Fehler von einem Menschen oder einer Maschine verursacht wurde, spielt für deinen Kunden keine Rolle.

Du musst dir das Verschulden deiner KI zurechnen lassen (§ 278 BGB). Die Aussage "Die KI hat den Fehler gemacht" ist keine Haftungsbefreiung.

Deliktshaftung (§ 823 BGB)

Wenn ein Dritter durch dein KI-System geschädigt wird, ohne in einer Vertragsbeziehung mit dir zu stehen, greift die Deliktshaftung. Du haftest, wenn du deine Verkehrssicherungspflichten verletzt hast. Bei KI bedeutet das: Du musst sicherstellen, dass dein KI-System keine vorhersehbaren Schäden verursacht.

Verkehrssicherungspflichten bei KI umfassen die Auswahl eines geeigneten KI-Systems (nicht das billigste, sondern das für den Einsatzzweck validierte), regelmäßige Überprüfung der Ausgaben auf Richtigkeit, menschliche Kontrolle bei risikobehafteten Entscheidungen (Human-in-the-Loop) und Dokumentation der eingesetzten Systeme und Sicherheitsmaßnahmen.

Fehlt diese Sorgfalt, haftest du für Schäden aus Organisationsverschulden.

EU KI-Haftungsrichtlinie: Was kommt auf Unternehmen zu?

Die EU KI-Haftungsrichtlinie (COM(2022) 496) ergänzt die bestehende Produkthaftung um spezifische Regeln für KI. Der Richtlinienentwurf befindet sich im Gesetzgebungsverfahren. Die Umsetzung in deutsches Recht wird für 2026 oder 2027 erwartet.

Beweislasterleichterung (Kausalitätsvermutung): Bisher muss der Geschädigte nachweisen, dass ein bestimmter Fehler im KI-System den Schaden verursacht hat. Bei komplexen KI-Systemen (Stichwort "Black Box") ist das praktisch unmöglich. Die KI-HL dreht die Beweislast teilweise um: Wenn der Geschädigte zeigt, dass das Unternehmen eine Pflicht aus der KI-Verordnung verletzt hat und ein Zusammenhang mit dem Schaden plausibel ist, wird die Kausalität vermutet. Das Unternehmen muss dann beweisen, dass die KI den Schaden nicht verursacht hat.

Offenlegungspflicht: Geschädigte können vom Gericht verlangen, dass das Unternehmen Informationen über das KI-System offenlegt. Welche Trainingsdaten wurden verwendet? Wie funktioniert die Entscheidungslogik? Welche Tests wurden durchgeführt? Wer diese Informationen nicht liefern kann, riskiert eine noch stärkere Beweislastverschiebung.

Was du jetzt schon tun solltest: Dokumentiere alle KI-Systeme, die du einsetzt (Zweck, Anbieter, Datenflüsse, Kontrollmechanismen). Stelle sicher, dass du die Anforderungen der KI-Verordnung (EU AI Act) einhältst, denn ein Verstoß dagegen wird zum Haftungshebel. Und baue interne Kompetenz für KI-Risikomanagement auf.

Bestehende Versicherungen: Was decken sie bei KI-Schäden ab?

Bevor du eine neue Police kaufst, prüfe, was deine bestehenden Versicherungen leisten.

Die meisten bestehenden Policen wurden geschrieben, bevor KI in Geschäftsprozessen üblich war. Begriffe wie "automatisierte Entscheidungssysteme", "algorithmische Fehler" oder "KI-Halluzinationen" tauchen in den Versicherungsbedingungen nicht auf. Das bedeutet nicht automatisch, dass kein Schutz besteht. Aber es bedeutet, dass im Schadensfall Interpretationsspielraum existiert, und der geht selten zugunsten des Versicherungsnehmers aus.

Prüfe konkret in deinen bestehenden Policen: Gibt es Ausschlüsse für "automatisierte Entscheidungsfindung" oder "algorithmische Verarbeitung"? Sind reine Vermögensschäden gedeckt? Gibt es Sublimits für technologiebezogene Schäden? Wurde die Police seit 2024 aktualisiert?

Mehr zu den Risiken von KI-Halluzinationen in Geschäftsprozessen findest du in unserem Artikel zur DSFA bei KI-Einsatz.

Neue KI-Versicherungsprodukte: Was bietet der Markt?

Der Versicherungsmarkt reagiert auf die steigende KI-Adoption. Seit 2024/2025 bieten spezialisierte Versicherer und InsurTechs dedizierte KI-Policen an. Der Markt ist noch jung und fragmentiert, aber einige Produktkategorien zeichnen sich ab.

KI-Haftpflichtversicherung: Deckt Personen-, Sach- und Vermögensschäden, die durch den Einsatz von KI-Systemen entstehen. Schließt die Lücken der klassischen Betriebshaftpflicht. Typische Deckungssummen: 1 bis 10 Mio. EUR. Prämien abhängig von Branche, Einsatzbereich und Risikoklasse des KI-Systems.

KI-Fehlentscheidungs-Versicherung (Algorithmic Liability): Speziell für automatisierte Entscheidungssysteme. Deckt Schäden aus falschen Kreditentscheidungen, fehlerhafter Bewerberauswahl oder falschen medizinischen Empfehlungen. Besonders relevant für Finanzdienstleister, HR-Tech und Medizintechnik.

KI-Betriebsunterbrechungsversicherung: Wenn dein geschäftskritisches KI-System ausfällt oder fehlerhafte Ergebnisse liefert und du deswegen den Betrieb einschränken musst. Ergänzt die klassische Betriebsunterbrechungsversicherung um KI-spezifische Trigger.

Worauf du bei der Auswahl achten solltest:

• Deckungsumfang: Sind Halluzinationen, Bias und Datenlecks explizit eingeschlossen?
• Retroaktivität: Deckt die Police auch Schäden ab, deren Ursache vor Vertragsbeginn liegt (relevant bei Trainings-Bias)?
• Sublimits: Gibt es Obergrenzen für bestimmte Schadensarten (z. B. DSGVO-Bußgelder)?
• Obliegenheiten: Welche Sorgfaltspflichten musst du einhalten, damit die Versicherung zahlt? Viele Policen verlangen dokumentiertes KI-Risikomanagement.
• Ausschlüsse: Wissentliche Pflichtverletzung, Krieg, Sanktionen sind Standard. Aber achte auch auf Ausschlüsse für "experimentelle Technologien" oder "nicht validierte Modelle".

Checkliste: Braucht dein Unternehmen eine KI-Versicherung?

Gehe die folgenden Fragen durch. Je mehr du mit "Ja" beantwortest, desto dringender solltest du deine Versicherungssituation prüfen.

1. Risikoprofil: - [ ] Setzt du KI in kundenbezogenen Prozessen ein (Beratung, Kommunikation, Empfehlungen)? - [ ] Trifft KI in deinem Unternehmen Entscheidungen, die finanzielle Auswirkungen für Dritte haben? - [ ] Verarbeitet dein KI-System personenbezogene Daten oder sensible Geschäftsdaten? - [ ] Nutzt du KI in regulierten Branchen (Finanzen, Gesundheit, Versicherung, Recht)?

2. Bestehende Deckung: - [ ] Hast du deine Betriebshaftpflicht in den letzten 12 Monaten auf KI-Ausschlüsse geprüft? - [ ] Deckt deine Cyber-Police KI-spezifische Risiken (Halluzinationen, Bias) explizit ab? - [ ] Gibt es in deiner D&O eine Deckung für Entscheidungen über KI-Einsatz? - [ ] Sind reine Vermögensschäden durch fehlerhafte KI-Ausgaben versichert?

3. Regulatorische Pflichten: - [ ] Fällt dein KI-System unter den EU AI Act als Hochrisiko-System (Anhang III)? - [ ] Hast du eine DSFA für deine KI-Systeme durchgeführt? - [ ] Dokumentierst du den Einsatz deiner KI-Systeme nachvollziehbar (für die KI-Haftungsrichtlinie)?

Was du heute schon tun kannst, auch ohne neue Versicherung

Versicherung ist das Sicherheitsnetz. Prävention ist günstiger als jede Prämie. Vier Maßnahmen senken dein Haftungsrisiko sofort.

KI-Inventar erstellen. Liste alle KI-Systeme auf, die in deinem Unternehmen im Einsatz sind. Zweck, Anbieter, Datenflüsse, Zugriffsrechte, Kontrollmechanismen. Du kannst nicht versichern, was du nicht kennst.

Human-in-the-Loop bei kritischen Entscheidungen. Lass KI keine Entscheidungen treffen, die Personen direkt betreffen (Kreditvergabe, Bewerbungsabsagen, medizinische Empfehlungen), ohne menschliche Überprüfung. Das senkt sowohl das Haftungsrisiko als auch die Versicherungsprämie.

AGB und Verträge anpassen. Nimm in deine AGB einen Hinweis auf, dass KI-gestützte Systeme eingesetzt werden und die Ergebnisse keine verbindliche Beratung darstellen. Haftungsbeschränkungen für KI-Ausgaben sind zulässig, solange sie nicht überraschend oder unangemessen sind (§§ 305 ff. BGB).

Interne KI-Kompetenz aufbauen. Wer KI-Risiken versteht, kann sie besser steuern. Wir sehen in der Praxis regelmäßig, dass Unternehmen ohne interne Kompetenz im Schadensfall den Überblick verlieren und dann erst merken, wie wenig ihre Police wirklich abdeckt. Die geförderte Weiterbildung zum Digitalisierungsmanager bei SkillSprinters deckt KI-Compliance, Datenschutz und Risikomanagement in einem eigenen Modul ab. DEKRA-zertifiziert, 4 Monate, komplett online, mit Bildungsgutschein 100 % gefördert.

FAQ: Häufige Fragen zur KI-Versicherung

Haftet der KI-Anbieter (z. B. OpenAI) für fehlerhafte Ausgaben? In der Regel nicht. Die Nutzungsbedingungen der meisten KI-Anbieter schließen die Haftung für die Richtigkeit der Ausgaben aus. OpenAI, Google und Microsoft stellen ihre Modelle explizit "as is" bereit. Du als Anwender bist verantwortlich für die Validierung der Ergebnisse und die Folgen des Einsatzes.

Kann ich mich gegen DSGVO-Bußgelder versichern? Grundsätzlich ja, über eine Cyber-Versicherung mit DSGVO-Baustein. Allerdings ist die Versicherbarkeit von Bußgeldern in Deutschland rechtlich umstritten. Manche Juristen argumentieren, dass die Versicherung eines Bußgelds dessen Strafcharakter aushebelt. In der Praxis bieten viele Cyber-Policen eine Deckung an, die im Schadensfall aber angefochten werden könnte.

Mein Unternehmen nutzt KI nur intern (keine Kundenkontakt). Brauche ich trotzdem eine Versicherung? Auch interner KI-Einsatz birgt Haftungsrisiken. Ein KI-System, das Mitarbeiterbewertungen erstellt oder Bewerber vorsortiert, kann zu Diskriminierungsklagen führen. Ein KI-Tool, das interne Dokumente zusammenfasst und dabei falsche Informationen einfügt, kann zu geschäftlichen Fehlentscheidungen führen. Prüfe das Risikoprofil anhand der Checkliste oben.

Wie teuer ist eine KI-Versicherung? Der Markt ist noch jung, Preise variieren stark. Als Orientierung: Zusatzmodule zu bestehenden Policen starten bei einigen hundert Euro pro Jahr. Eigenständige KI-Haftpflichtpolicen für Unternehmen mit moderatem KI-Einsatz liegen typischerweise zwischen 2.000 und 10.000 EUR jährlich. Für Hochrisiko-Anwendungen (Medizin, Finanzentscheidungen) deutlich mehr.

Was passiert, wenn mein KI-System diskriminierende Entscheidungen trifft? Du haftest nach AGG (Allgemeines Gleichbehandlungsgesetz) und ggf. nach Art. 22 DSGVO (automatisierte Einzelentscheidungen). Der EU AI Act stuft KI-Systeme im Recruiting und bei der Kreditwürdigkeitsprüfung als Hochrisiko ein. Verstöße können Bußgelder nach KI-Verordnung UND nach AGG/DSGVO gleichzeitig auslösen.