KI-Chatbot rechtssicher betreiben 2026: Checkliste nach OLG-Hamm-Urteil

Auf einen Blick: Das OLG Hamm hat am 12.05.2026 (Az. 4 UKl 3/25) entschieden, dass Betreiber wettbewerbsrechtlich für jede KI-Chatbot-Aussage haften. Auch Halluzinationen. Auch mit Disclaimer. Diese Checkliste führt durch zehn Schritte: Klassifikation, AVV, Datenflüsse, RAG, No-Go-Themen, Konfidenz-Schwelle, Transparenz, Audit-Log, Versicherung, Schulung.

Ein Disclaimer im Chatfenster reicht nicht. Das ist die wichtigste Erkenntnis aus dem OLG-Hamm-Urteil vom 12.05.2026. Wer einen KI-Chatbot im Kundenkontakt einsetzt, haftet nach §§ 3, 5 UWG für jede Aussage des Bots. Auch für die, die der Bot sich ausgedacht hat. Die Revision zum BGH ist zugelassen, aber selbst wenn der BGH 2027 oder 2028 anders entscheiden sollte: Wer heute einen Chatbot live hat, kann morgen abgemahnt werden. Die Checkliste in diesem Artikel zeigt, wie du das Risiko praktisch in den Griff bekommst.

Wer das ignoriert, riskiert Abmahnungen mit vierstelligen Streitwerten plus Folgekosten. Wer es übertreibt, baut einen Bot, der nichts mehr beantwortet und damit auch keinen Geschäftswert mehr liefert. Die Kunst liegt dazwischen. Mit klarer Architektur, klaren Eskalationsregeln und klarem Verständnis, was der Bot darf und was nicht.

Drei Rechtsbereiche, die du parallel im Blick haben musst

Ein KI-Chatbot berührt mindestens drei Rechtsbereiche gleichzeitig. Wer nur an einen denkt, übersieht typischerweise zwei.

Das UWG regelt irreführende geschäftliche Aussagen. § 3 UWG verbietet unlautere geschäftliche Handlungen, § 5 UWG insbesondere irreführende. Das OLG Hamm hat mit dem Urteil 12.05.2026 klargestellt, dass diese Vorschriften auch für KI-Aussagen gelten. Wenn dein Bot sagt, dass dein Produkt "klimaneutral" sei, obwohl das nicht stimmt, ist das eine wettbewerbsrechtlich abmahnbare Aussage. Auch wenn der Bot das halluziniert hat.

Die DSGVO regelt die Datenverarbeitung. Sobald dein Bot Nutzer-Eingaben verarbeitet (und das tut er per Definition), brauchst du eine Rechtsgrundlage nach Art. 6 DSGVO und einen Auftragsverarbeitungsvertrag mit dem LLM-Anbieter nach Art. 28 DSGVO. Bei OpenAI und Anthropic ist der AVV im Enterprise-Tarif Standard. Im Pro-Tarif fehlt er typischerweise.

Die KI-VO bringt zwei Pflichten ein. Art. 50 KI-VO verlangt ab dem 02.08.2026 Transparenzkennzeichnung: Nutzer müssen wissen, dass sie mit einer KI sprechen. Art. 6 KI-VO klassifiziert bestimmte Systeme als Hochrisiko (Bewerber-Scoring, Bonität, Zugangs-Entscheidungen). Wer Hochrisiko-Pflichten hat und nicht erfüllt, riskiert Bußgelder bis 35 Mio Euro oder 7 Prozent des Welt-Umsatzes nach Art. 99 KI-VO.

Schritt 1: Klassifikation als Hochrisiko prüfen

Der erste Schritt bestimmt, wie streng die folgenden Schritte werden. Bei einem reinen FAQ-Bot, der Öffnungszeiten und Preise erklärt, ist die Antwort meist: nein, kein Hochrisiko. Bei einem Bot, der Bewerbungen triagiert oder Zugangs-Entscheidungen vorbereitet, ist die Antwort: ja, vermutlich Hochrisiko nach Anhang III KI-VO.

Die acht Hochrisiko-Bereiche aus Anhang III sind: Biometrie, kritische Infrastruktur, Bildung, Beschäftigung (HR/Bewerber-Scoring), Zugang zu Diensten, Strafverfolgung, Migration/Asyl, Justizpflege. Wer in einem dieser Bereiche KI einsetzt, ist im Pflichtprogramm.

Die Anhang-III-Pflichten sind durch die Omnibus-Trilog-Einigung vom 07.05.2026 auf den 02.12.2027 verschoben. Du hast also Zeit für die volle Umsetzung. Aber die Klassifikation selbst solltest du jetzt machen, weil sie alle Architektur-Entscheidungen beeinflusst.

Schritt 2: AVV mit dem LLM-Anbieter sichern

Ohne Auftragsverarbeitungsvertrag verarbeitet dein Bot Daten in einer Konstellation, die formal gegen die DSGVO verstößt. Anthropic und OpenAI bieten den AVV ab dem Team- oder Enterprise-Tarif als Standard. Bei Pro-Tarifen fehlt er oft.

Bei Anthropic bedeutet das konkret: Claude Pro (20 EUR/Monat) hat keinen AVV. Claude Team (30 EUR/User/Monat) hat einen AVV. Bei OpenAI ist es ähnlich: ChatGPT Plus (23 EUR/Monat DE-Preis) hat keinen, ChatGPT Team (25 USD/User/Monat) hat einen.

Wer einen Chatbot mit Microsoft Copilot baut, ist im Vorteil. Microsoft schließt den AVV als Hauptpartner, kein separater AVV mit OpenAI oder Anthropic ist nötig. Das ist einer der Gründe, warum Copilot Multi-Model für KMU mit Microsoft-Stack attraktiv ist.

Schritt 3: Datenflüsse zu Trainingsdaten klären

Frage: Werden die Chat-Inhalte deiner Kunden für das Training der Modelle verwendet? Bei sensiblen Daten ist die Antwort relevant. Anthropic Claude Team und Enterprise nutzen Kundendaten standardmäßig nicht zum Training. Bei ChatGPT Free ist das anders, dort muss explizit per Opt-out widersprochen werden.

Bei ChatGPT Plus, Team und Enterprise ist Training mit Kundendaten standardmäßig deaktiviert. Das gilt aber nicht automatisch für alle abgeleiteten Funktionen. Wer in einer Anwaltskanzlei oder Steuerberatungspraxis einen Bot einsetzt, sollte die Vertrags-Anlagen genau lesen, statt sich auf Marketing-Aussagen zu verlassen.

Schritt 4: Wissensbasis fest verankern (RAG statt Free-Form)

Das ist der wichtigste Architektur-Schritt nach dem OLG-Hamm-Urteil. Ein Free-Form-LLM, das frei generiert, was es für richtig hält, wird halluzinieren. Mal mehr, mal weniger. Wenn der Bot Preise nennt, die nicht in deiner Preisliste stehen, hast du ein UWG-Problem.

Retrieval-Augmented Generation (RAG) löst das. Der Bot bekommt eine fest definierte Wissensbasis. Bei einer Kunden-Anfrage sucht er erst in dieser Basis, formt dann die Antwort um die gefundenen Inhalte herum. Wenn die Frage außerhalb der Wissensbasis liegt, eskaliert er an einen Menschen.

Konkret bedeutet das: Preisliste, AGB, Lieferbedingungen, häufige Fragen aus dem Service liegen als Dokumente in einer Vektor-Datenbank. Der Bot zitiert daraus. Eine eigene Antwort frei generieren darf er nur in eng abgesteckten Fällen.

Das senkt das Halluzinations-Risiko deutlich. Es eliminiert es nicht, aber es macht den Bot von einem unberechenbaren System zu einem dokumentenbasierten Frage-Antwort-System mit hohem Verlässlichkeitsgrad.

Schritt 5: No-Go-Themen hart filtern

Bestimmte Themen darf der Bot überhaupt nicht beantworten. Auch nicht mit guter Quelle. Auch nicht mit Disclaimer.

Die Liste hängt vom Geschäft ab. Eine typische No-Go-Liste enthält: individuelle Preisauskünfte außerhalb der Preisliste, Garantieversprechen, Vergleiche zu Wettbewerbern (UWG-Risiko), Rechtsauskunft, medizinische Diagnose, individuelle Steuerberatung, Kapitalanlage-Empfehlungen. Diese Themen löst eine Hard-Coded-Regel im Bot-System ab und leitet an einen Menschen weiter.

Eine pragmatische Umsetzung: Vor jeder Bot-Antwort läuft ein kleiner Klassifikator (kann ein einfacher LLM-Aufruf sein), der prüft, ob die Frage in ein verbotenes Thema fällt. Wenn ja, antwortet der Bot mit "Diese Frage beantworten wir gerne persönlich" und öffnet ein Eskalations-Ticket.

Schritt 6: Konfidenz-Schwelle einbauen

Selbst innerhalb der erlaubten Themen ist nicht jede Bot-Antwort gleich sicher. Bei klaren FAQ-Fragen ("Wie sind Ihre Öffnungszeiten?") ist die Konfidenz hoch. Bei vagen Fragen ("Lohnt sich das für mich?") ist sie niedrig.

Eine Konfidenz-Schwelle setzt einen Schwellwert: Wenn der Bot unter dem Schwellwert liegt, antwortet er nicht, sondern leitet weiter. Praktisch lässt sich das auf zwei Wegen umsetzen. Variante eins: Der LLM gibt zusätzlich zum Antwort-Text einen Konfidenz-Score zurück, der Bot vergleicht den Score mit dem Schwellwert. Variante zwei: Ein separater Klassifikator beurteilt die Antwort post-hoc auf Sicherheit.

Beide Varianten sind nicht perfekt. Aber beide sind besser als ein Bot, der mit voller Selbstsicherheit jede Frage beantwortet.

Schritt 7: Transparenz nach Art. 50 KI-VO

Ab dem 02.08.2026 musst du jeden Nutzer vor Interaktionsbeginn darüber informieren, dass er mit einer KI spricht. Das ist die Pflicht aus Art. 50 KI-VO.

In der Praxis reicht ein einzeiliger Hinweis direkt im Chatfenster: "Du chattest mit einem KI-Assistenten. Bei komplexen Fragen leiten wir an einen Mitarbeiter weiter." Das muss vor der ersten Eingabe sichtbar sein, nicht in einem versteckten Cookie-Banner.

Der Hinweis ersetzt die Haftung nicht. Das OLG Hamm hat ausdrücklich klargestellt: Disclaimer enthebt nicht der wettbewerbsrechtlichen Haftung. Aber er erfüllt die KI-VO-Pflicht und ist ein Signal an den Nutzer, kritischer mitzulesen.

Schritt 8: Audit-Log für mindestens 6 Monate

Jeder Chat muss nachvollziehbar sein. Wenn dich jemand wegen einer Bot-Aussage abmahnt, brauchst du die Aussage im Original, mit Zeitstempel und Kontext.

Mindestumfang: Eingabe-Text, Bot-Antwort, verwendete Modellversion (z.B. claude-sonnet-4-6-20250514, nicht nur "Claude"), genutzte Wissensbasis-Dokumente, Zeitstempel. Speicherdauer mindestens 6 Monate wegen UWG-Verjährungsfristen. Bei Buchhaltungs-Kontext (Rechnungs-Erstellung, Auftragsabwicklung) gelten die GoBD-Aufbewahrungsfristen von 10 Jahren.

Achte auf DSGVO-Konformität: Lösch-Anfragen nach Art. 17 DSGVO müssen auch das Audit-Log umfassen. Eine simple Lösung: User-ID hashen und in einer separaten Tabelle pseudonymisieren, dann lässt sich der Bezug zum Nutzer auflösen ohne die Aussagen zu verlieren.

Schritt 9: Cyberversicherung anpassen

Cyberversicherer haben 2026 begonnen, KI-Halluzinations-Schäden in Policen aufzunehmen. Das war 2024 und 2025 noch nicht der Fall. Ob dein bestehender Vertrag KI-Schäden abdeckt, ist eine Frage, die du explizit klären musst.

Konkret: Ruf bei deinem Versicherer an und frag, ob Schäden durch KI-Chatbot-Halluzinationen unter deine Cyber-Police fallen. Falls nein, ob ein Zusatz-Modul verfügbar ist. Falls ja, zu welchem Beitragsaufschlag.

Die Beitragsaufschläge bewegen sich Stand Mai 2026 zwischen 5 und 20 Prozent der bestehenden Cyber-Prämie. Bei einer mittelständischen Cyber-Police mit 4.000 Euro Jahresprämie wären das also 200 bis 800 Euro mehr pro Jahr. Bei einer einzigen UWG-Abmahnung mit 3.000 Euro Streitwert hast du das mehrfach drin.

Schritt 10: Mitarbeiter schulen, nicht nur den Bot

Der letzte Schritt wird oft vergessen. Wenn der Bot eskaliert, muss ein Mensch übernehmen. Wenn der Mensch nicht weiß, was der Bot davor gesagt hat, ist die Eskalation wertlos.

Konkret: Das Backup-Team braucht Lese-Zugriff auf den Chat-Verlauf, ein Verständnis für typische Eskalations-Themen und klare Eskalations-Pfade. Wer eskaliert was wohin? Wer kann selbst entscheiden, wer braucht eine zweite Meinung?

Die Faustregel: Pro 10.000 Chats im Monat rechne mit einer halben bis ganzen Vollzeitstelle im Backup. Das gilt unabhängig vom Eskalations-Anteil. Auch bei nur 10 Prozent Eskalation (1.000 Eskalationen pro Monat) sind das im Schnitt 50 Eskalationen pro Werktag, die ein Mensch lesen, einordnen und beantworten muss.

Fallbeispiel: Hofmeister Versand in Würzburg

Hofmeister Versand, ein mittelständischer B2B-Versandhändler für Industriebedarf mit 80 Mitarbeitern in Würzburg, hat im April 2026 einen Chatbot live gestellt. Der Bot sollte FAQ-Fragen zu Lieferzeiten, Versandkonditionen und Produkthandhabung beantworten. Drei Wochen später eine Abmahnung von einem Wettbewerber.

Der Vorwurf: Der Bot hatte einem Kunden behauptet, ein Konkurrenzprodukt habe Sicherheitsprobleme. Das war eine Halluzination, die Aussage stand nirgendwo in der Wissensbasis. Die Abmahnung verlangte Unterlassung plus 2.800 Euro Anwaltskosten.

Was nach dem OLG-Hamm-Urteil offensichtlich war: Disclaimer im Chat hätte nichts geändert. Hofmeister musste die Unterlassungserklärung abgeben und die Kosten tragen. Die Konsequenz im Mai war ein Architektur-Umbau auf RAG mit fester Wissensbasis, einen No-Go-Filter für Wettbewerber-Erwähnungen und Eskalations-Trigger bei jeder Vergleichs-Frage. Die ersten zwei Wochen nach dem Umbau zeigt eine Halbierung der Bot-Antwort-Quote (von 78 Prozent auf 41 Prozent) bei gleichzeitig null Beschwerden. Der Rest geht jetzt an das Backup-Team mit zwei Vollzeit-Stellen.

Die Lehre für andere KMU: Lieber 40 Prozent gute Bot-Antworten als 80 Prozent riskante. Der Hebel liegt im Architektur-Design, nicht in der Optimierung des LLM-Prompts.

Was wir in der Praxis sehen

Wer das unterschätzt, baut sich ein Risiko, das sich erst rächt, wenn der erste Abmahn-Anwalt anruft. Wir sehen in Beratungsmandaten regelmäßig zwei Fehler. Erstens: Ein Bot wird mit "ChatGPT API rein, fertig" gebaut, ohne RAG, ohne No-Go-Filter, ohne Audit-Log. Das hält genau so lange, bis ein Kunde die erste irreführende Antwort dokumentiert.

Zweitens: Der Bot wird so streng konfiguriert, dass er nichts mehr beantwortet. Jede Frage wird eskaliert, der Bot wird zur Frustquelle, das Backup-Team ist überlastet, Kunden klagen. Beide Extreme sind vermeidbar mit einer durchdachten Architektur und klaren Regeln, was der Bot darf und was nicht.

Der erfolgreichste KMU-Setup, den wir kennen: Bot übernimmt 80 Prozent der typischen Anfragen (Versand, Öffnungszeiten, einfache Produktfragen), die restlichen 20 Prozent (Reklamationen, individuelle Preise, rechtlich relevante Themen) gehen direkt an einen Menschen. Nicht andersrum. Wer den Bot zwingt, möglichst viel zu beantworten, riskiert genau die Aussagen, die später abgemahnt werden.

Wer den breiteren Kontext zur Datenverarbeitung verstehen will, findet im Artikel zu Datenschutz bei KI-Tools die DSGVO-Eckpunkte. Wer ohnehin eine systematische KI-Einführung im Unternehmen plant, findet im Digitalisierungsmanager das passende Curriculum für die strukturelle Umsetzung.

Checkliste als Tabelle

Hier die zehn Schritte als kompakte Übersicht für den nächsten Audit-Termin:

Wer die Liste sequenziell durchgeht, hat in 4 bis 8 Wochen einen Bot live, der die wichtigsten Risiken abdeckt. Wer einzelne Schritte überspringt, baut sich genau die Schwachstellen ein, die das OLG Hamm im Mai 2026 als haftungsrelevant bezeichnet hat.

Häufige Fragen

Reicht ein Disclaimer im Chatfenster nach dem OLG-Hamm-Urteil?

Nein. Das OLG Hamm hat im Urteil vom 12.05.2026 (Az. 4 UKl 3/25) ausdrücklich klargestellt, dass Disclaimer wie "Antworten können fehlerhaft sein" den Betreiber nicht aus der wettbewerbsrechtlichen Haftung nach §§ 3, 5 UWG entheben. Wer den Bot betreibt, haftet für seine Aussagen. Der Disclaimer erfüllt nur die Transparenz-Pflicht nach Art. 50 KI-VO.

Wann gilt ein KI-Chatbot als Hochrisiko-System nach KI-VO?

Hochrisiko ist ein Bot, wenn er in einem der acht Anhang-III-Bereiche eingesetzt wird: Biometrie, kritische Infrastruktur, Bildung, Beschäftigung (z.B. Bewerber-Triage), Zugang zu Diensten, Strafverfolgung, Migration, Justiz. Ein FAQ-Bot für Öffnungszeiten und Versandbedingungen ist meist nicht Hochrisiko. Ein Bot, der Bewerbungen vorab bewertet oder Zugang zu Diensten regelt, schon.

Welche LLM-Tarife haben einen AVV nach Art. 28 DSGVO?

Bei Anthropic ist der AVV ab Claude Team (30 EUR/User/Monat) und Enterprise verfügbar, im Pro-Tarif (20 EUR/Monat) nicht. Bei OpenAI gilt der AVV ab ChatGPT Team (25 USD/User/Monat) und Enterprise. Microsoft Copilot for M365 hat den AVV über Microsoft als Hauptpartner, ein separater AVV mit OpenAI oder Anthropic ist hier nicht nötig. Stand Mai 2026.

Wie lange muss ich Chat-Logs aufbewahren?

Mindestens 6 Monate wegen UWG-Verjährungsfristen. Bei Buchhaltungs-Kontext (z.B. Rechnungs-Erstellung über den Bot) greifen die GoBD-Aufbewahrungsfristen, dann sind es 10 Jahre. DSGVO-Löschanfragen nach Art. 17 müssen das Log mit umfassen, also planst du eine Pseudonymisierungs-Architektur ein, mit der sich der Bezug zum Nutzer auflösen lässt, ohne die Aussagen selbst zu verlieren.

Über den Autor

Dr. Jens Aichinger ist promovierter Wirtschaftspädagoge und Inhaber von SkillSprinters, einem DEKRA-zertifizierten Bildungsträger. Er entwickelt seit 2024 KI-gestützte Weiterbildungs- und Prozessautomatisierungslösungen für den Mittelstand. Über Skill-Sprinters läuft auch der Digitalisierungsmanager, eine 4-monatige geförderte Weiterbildung.

Bereit für den nächsten Schritt? Wenn du KI im Geschäftsalltag systematisch und rechtssicher einsetzen willst, statt nur an einzelnen Tools zu basteln, schau dir den Digitalisierungsmanager an. Vier Monate, komplett online, mit Bildungsgutschein 0 Euro.

Zuletzt geprüft am 25. Mai 2026.