KI-Transparenzpflicht nach dem EU AI Act: Wann muss der KI-Einsatz gekennzeichnet werden?

Die KI-Transparenzpflicht nach dem EU AI Act betrifft ab August 2026 jedes Unternehmen, das Chatbots, synthetische Medien oder KI-generierte Texte einsetzt. Artikel 50 der KI-Verordnung regelt im Detail, wann und wie der Einsatz Kuenstlicher Intelligenz gegenueber Nutzern offengelegt werden muss. Wer die neuen Pflichten ignoriert, riskiert Bussgelder bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes.

Was Artikel 50 der KI-Verordnung regelt

Artikel 50 des EU AI Act (offiziell: Verordnung (EU) 2024/1689) definiert Transparenzpflichten fuer Anbieter und Betreiber bestimmter KI-Systeme. Die Vorschrift unterscheidet drei Kategorien, die jeweils eigene Anforderungen mit sich bringen.

Kategorie 1: Chatbots und interaktive KI-Systeme

Wenn ein KI-System dafuer konzipiert ist, direkt mit Menschen zu interagieren, muss der Betreiber die betroffene Person darueber informieren, dass sie mit einem KI-System kommuniziert. Diese Pflicht greift bei Chatbots auf Unternehmenswebsites, bei KI-gestuetzten Telefonassistenten und bei automatisierten E-Mail-Systemen, die individuell auf Kundenanfragen reagieren.

Die Kennzeichnung muss klar, rechtzeitig und verstaendlich erfolgen. Ein kleiner Hinweis im Footer der Website reicht nicht aus. Nutzer muessen vor oder spaetestens zu Beginn der Interaktion wissen, dass sie mit einer KI sprechen.

Ausnahme: Die Pflicht entfaellt, wenn der KI-Einsatz fuer den Nutzer offensichtlich ist. Wann genau das der Fall ist, wird die Praxis zeigen. Ein Chatbot-Widget mit der Bezeichnung "KI-Assistent" duerfte ausreichen. Ein System, das sich als "Sarah aus dem Kundenservice" vorstellt, eher nicht.

Kategorie 2: Deepfakes und synthetische Medien

Betreiber von KI-Systemen, die Bild-, Ton- oder Videoinhalte erzeugen oder manipulieren, die ein sogenanntes Deepfake darstellen, muessen offenlegen, dass die Inhalte kuenstlich erzeugt oder manipuliert wurden. Diese Pflicht trifft Unternehmen, die mit KI-generierten Videos arbeiten, synthetische Sprecher in Werbeclips einsetzen oder Produktfotos durch KI erstellen lassen.

Anbieter von KI-Systemen, die synthetische Inhalte generieren, muessen ihre Outputs zusaetzlich in einem maschinenlesbaren Format kennzeichnen. Neben der sichtbaren Kennzeichnung fuer den Nutzer muessen Metadaten oder Wasserzeichen eingebettet werden, die automatisiert ausgelesen werden koennen.

Kategorie 3: KI-generierte Texte mit oeffentlichem Informationsinteresse

Wer ein KI-System nutzt, um Texte zu erzeugen oder zu manipulieren, die veroeffentlicht werden, um die Oeffentlichkeit ueber Angelegenheiten von oeffentlichem Interesse zu informieren, muss die kuenstliche Erzeugung offenlegen. Das betrifft beispielsweise Pressemitteilungen, Nachrichtenartikel, Blogbeitraege zu politischen Themen oder Informationsseiten zu Gesundheitsthemen.

Die Ausnahme bei redaktioneller Kontrolle

Fuer Unternehmen besonders relevant ist die Ausnahme in Artikel 50 Absatz 4. Kuenstlich erzeugte Textinhalte sind von der Kennzeichnungspflicht befreit, wenn zwei Bedingungen gleichzeitig erfuellt sind:

1. Die Inhalte wurden einem Verfahren der menschlichen Ueberpruefung oder redaktionellen Kontrolle unterzogen.
2. Eine natuerliche oder juristische Person traegt die redaktionelle Verantwortung fuer die Veroeffentlichung.

Wenn Ihr Marketingteam einen Blogartikel mit KI-Unterstuetzung erstellt, den Text anschliessend ueberprueft, korrigiert und unter dem Firmennamen veroeffentlicht, entfaellt die Kennzeichnungspflicht. Die redaktionelle Kontrolle muss dabei substanziell sein. Ein blosses Durchwinken ohne inhaltliche Pruefung reicht nach der Intention des Gesetzgebers nicht aus. Aus der Beratungspraxis beobachten wir, dass genau diese Hausaufgabe im Alltag am haeufigsten schlampig erledigt wird: Texte werden formal freigegeben, ohne dass jemand inhaltlich mitliest. Im Streitfall laesst sich das im Nachhinein schwer erklaeren.

Diese Ausnahme gilt ausdruecklich nur fuer Texte. Fuer synthetische Bilder, Videos und Audioinhalte bleibt die Kennzeichnungspflicht bestehen, auch wenn ein Mensch den Inhalt ueberprueft hat.

Ausnahmen fuer Kunst, Satire und Strafverfolgung

Der EU AI Act sieht weitere Ausnahmen vor:

• Strafverfolgung: Die Kennzeichnungspflicht entfaellt, wenn der KI-Einsatz gesetzlich zur Aufdeckung, Verhuetung, Ermittlung oder Verfolgung von Straftaten zugelassen ist.
• Kunst und Satire: Bei offensichtlich kuenstlerischen, kreativen, satirischen oder fiktionalen Werken beschraenkt sich die Pflicht darauf, das Vorhandensein KI-generierter Inhalte "in geeigneter Weise" offenzulegen, ohne die Darstellung oder den Genuss des Werks zu beeintraechtigen. Ein Abspann oder eine Fussnote genuegt.

Bussgelder und Durchsetzung

Verstoesse gegen die Transparenzpflichten nach Artikel 50 koennen mit Bussgeldern von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden, wobei der hoehere Betrag massgeblich ist.

Die Durchsetzung ist differenziert zu betrachten. Verstoesse gegen die Kennzeichnungspflicht sind nicht in jedem Fall unmittelbar bussgeldbewehrt. Sie koennen jedoch insbesondere bei systematischer Taeuschung, irrefuehrender Kommunikation oder in Verbindung mit Verstoessen gegen Verbraucherschutz- oder Wettbewerbsrecht aufsichtsrechtliche Konsequenzen nach sich ziehen.

Die nationalen Aufsichtsbehoerden werden die konkreten Durchsetzungsmechanismen noch ausgestalten. In Deutschland wird voraussichtlich die Bundesnetzagentur als zustaendige Marktueberwachungsbehoerde fungieren.

Code of Practice: Praktische Umsetzungshilfe

Am 17. Dezember 2025 hat die EU-Kommission ueber das AI Office den ersten Entwurf eines Code of Practice zur Transparenz KI-generierter Inhalte veroeffentlicht. Dieser freiwillige Verhaltenskodex soll Unternehmen praktische Anleitungen zur Umsetzung von Artikel 50 geben. Ein zweiter Entwurf wurde fuer Maerz 2026 angekuendigt, der finale Code wird voraussichtlich im Juni 2026 vorliegen.

Der Code of Practice behandelt unter anderem:

• Technische Standards fuer Wasserzeichen und Metadaten
• Anforderungen an die sichtbare Kennzeichnung
• Branchenspezifische Leitlinien fuer Medien, Marketing und Kundenkommunikation
• Interoperabilitaetsstandards zwischen verschiedenen KI-Systemen

Praxisbeispiele: Wer ist betroffen?

Die Transparenzpflichten betreffen mehr Unternehmen, als auf den ersten Blick ersichtlich ist.

E-Commerce-Unternehmen: Wenn Ihr Chatbot Kundenanfragen beantwortet, muessen Sie den KI-Einsatz offenlegen. Das gilt auch fuer KI-generierte Produktbeschreibungen, sofern diese nicht redaktionell geprueft werden.

Marketingagenturen: KI-generierte Werbetexte fallen unter die Ausnahme der redaktionellen Kontrolle, sofern ein Mensch die Verantwortung uebernimmt. KI-generierte Bilder fuer Social Media muessen dagegen als synthetisch gekennzeichnet werden.

Medienunternehmen: Redaktionell geprueftes Artikel, die mit KI-Unterstuetzung erstellt wurden, sind von der Kennzeichnungspflicht befreit. Vollstaendig KI-generierte Nachrichten-Zusammenfassungen ohne menschliche Pruefung dagegen nicht.

Personaldienstleister: KI-gestuetzte Chatbots, die mit Bewerbern kommunizieren, muessen als KI-Systeme gekennzeichnet werden. Das gilt unabhaengig davon, ob der Chatbot nur Informationen gibt oder Bewerberdaten erfasst.

Bildungsanbieter: KI-generierte Lehrmaterialien, die von einem Dozenten geprueft und verantwortet werden, fallen unter die Ausnahme. Automatisierte Bewertungssysteme, die direkt mit Teilnehmern interagieren, erfordern eine Kennzeichnung.

Was Unternehmen jetzt tun sollten

Auch wenn die Transparenzpflichten erst ab August 2026 verbindlich gelten, sollten Sie jetzt mit der Vorbereitung beginnen.

Bestandsaufnahme. Identifizieren Sie alle KI-Systeme in Ihrem Unternehmen, die unter Artikel 50 fallen. Dazu gehoeren Chatbots, KI-generierte Marketinginhalte, synthetische Medien und automatisierte Kundenkommunikation.

Prozesse definieren. Legen Sie fest, wer die redaktionelle Verantwortung fuer KI-generierte Inhalte traegt und wie die menschliche Ueberpruefung dokumentiert wird.

Technische Umsetzung. Pruefen Sie, ob Ihre KI-Tools technische Markierungen (Wasserzeichen, Metadaten) unterstuetzen. Fordern Sie diese Funktionalitaet gegebenenfalls bei Ihren Anbietern ein.

Mitarbeiter schulen. Sensibilisieren Sie Ihre Teams fuer die neuen Pflichten. Besonders Marketing-, Kommunikations- und Kundenservice-Abteilungen sind betroffen.

Compliance-Dokumentation. Halten Sie schriftlich fest, welche KI-Systeme Sie einsetzen, welche Inhalte damit erzeugt werden und wie die Kennzeichnung erfolgt.

Wenn Sie Ihre Mitarbeiter systematisch auf die neuen Anforderungen vorbereiten moechten, bietet eine strukturierte KI-Weiterbildung die notwendige Grundlage. Fuer Unternehmen, die KI-Kompetenz intern aufbauen wollen, liegt zusaetzlich ein praktischer Leitfaden zum Einstieg bereit.

Haeufige Fragen

Muessen alle KI-generierten Inhalte gekennzeichnet werden? Nein. Artikel 50 unterscheidet nach Art des Inhalts und Kontext. Texte, die einer redaktionellen Kontrolle unterliegen und unter Verantwortung einer natuerlichen oder juristischen Person veroeffentlicht werden, sind von der Kennzeichnungspflicht ausgenommen. Synthetische Bilder, Videos und Audioinhalte muessen dagegen grundsaetzlich gekennzeichnet werden.

Gilt die Kennzeichnungspflicht auch fuer interne Dokumente? Die Transparenzpflichten nach Artikel 50 betreffen primaer die Kommunikation mit externen Personen und die Veroeffentlichung von Inhalten. Rein interne Dokumente, die nicht veroeffentlicht werden, fallen in der Regel nicht darunter. Die Pflicht zur Kennzeichnung von Chatbot-Interaktionen greift jedoch auch bei internen Systemen, wenn Mitarbeiter mit KI kommunizieren.

Was bedeutet "redaktionelle Kontrolle" konkret? Redaktionelle Kontrolle bedeutet eine substanzielle inhaltliche Ueberpruefung durch einen Menschen, nicht nur ein formales Freigabeverfahren. Der Verantwortliche muss den Inhalt gelesen, auf Richtigkeit geprueft und gegebenenfalls angepasst haben. Eine reine Schaltflaeche "Freigeben" ohne inhaltliche Pruefung erfuellt die Anforderungen voraussichtlich nicht.

Welche Bussgelder drohen bei Verstoessen? Der EU AI Act sieht Bussgelder bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes vor. In der Praxis werden die nationalen Aufsichtsbehoerden die Sanktionen nach Schwere und Art des Verstosses differenzieren.

Betrifft Artikel 50 auch kleine Unternehmen und Selbststaendige? Ja, die Transparenzpflichten gelten unabhaengig von der Unternehmensgroesse. Allerdings sieht der EU AI Act in anderen Bereichen Erleichterungen fuer KMU vor. Die praktische Umsetzung wird fuer kleine Unternehmen in der Regel weniger aufwaendig sein, da sie typischerweise weniger KI-Systeme einsetzen.

Ab wann muss ich die neuen Regeln einhalten? Die Transparenzpflichten nach Artikel 50 gelten verbindlich ab dem 2. August 2026. Der EU AI Act trat zwar bereits am 1. August 2024 in Kraft, die verschiedenen Bestimmungen werden jedoch gestaffelt wirksam.