KI-Transparenzpflicht nach dem EU AI Act: Wann muss der KI-Einsatz gekennzeichnet werden?

Die KI-Transparenzpflicht nach dem EU AI Act betrifft ab August 2026 jedes Unternehmen, das Chatbots, synthetische Medien oder KI-generierte Texte einsetzt. Artikel 50 der KI-Verordnung regelt im Detail, wann und wie der Einsatz Kuenstlicher Intelligenz gegenüber Nutzern offengelegt werden muss. Wer die neuen Pflichten ignoriert, riskiert Bussgelder bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes.

Was Artikel 50 der KI-Verordnung regelt

Artikel 50 des EU AI Act (offiziell: Verordnung (EU) 2024/1689) definiert Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme. Die Vorschrift unterscheidet drei Kategorien, die jeweils eigene Anforderungen mit sich bringen.

Kategorie 1: Chatbots und interaktive KI-Systeme

Wenn ein KI-System dafür konzipiert ist, direkt mit Menschen zu interagieren, muss der Betreiber die betroffene Person darüber informieren, dass sie mit einem KI-System kommuniziert. Diese Pflicht greift bei Chatbots auf Unternehmenswebsites, bei KI-gestuetzten Telefonassistenten und bei automatisierten E-Mail-Systemen, die individuell auf Kundenanfragen reagieren.

Die Kennzeichnung muss klar, rechtzeitig und verstaendlich erfolgen. Ein kleiner Hinweis im Footer der Website reicht nicht aus. Nutzer müssen vor oder spaetestens zu Beginn der Interaktion wissen, dass sie mit einer KI sprechen.

Ausnahme: Die Pflicht entfaellt, wenn der KI-Einsatz für den Nutzer offensichtlich ist. Wann genau das der Fall ist, wird die Praxis zeigen. Ein Chatbot-Widget mit der Bezeichnung "KI-Assistent" dürfte ausreichen. Ein System, das sich als "Sarah aus dem Kundenservice" vorstellt, eher nicht.

Kategorie 2: Deepfakes und synthetische Medien

Betreiber von KI-Systemen, die Bild-, Ton- oder Videoinhalte erzeugen oder manipulieren, die ein sogenanntes Deepfake darstellen, müssen offenlegen, dass die Inhalte kuenstlich erzeugt oder manipuliert wurden. Diese Pflicht trifft Unternehmen, die mit KI-generierten Videos arbeiten, synthetische Sprecher in Werbeclips einsetzen oder Produktfotos durch KI erstellen lassen.

Anbieter von KI-Systemen, die synthetische Inhalte generieren, müssen ihre Outputs zusätzlich in einem maschinenlesbaren Format kennzeichnen. Neben der sichtbaren Kennzeichnung für den Nutzer müssen Metadaten oder Wasserzeichen eingebettet werden, die automatisiert ausgelesen werden können.

Kategorie 3: KI-generierte Texte mit öffentlichem Informationsinteresse

Wer ein KI-System nutzt, um Texte zu erzeugen oder zu manipulieren, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, muss die kuenstliche Erzeugung offenlegen. Das betrifft beispielsweise Pressemitteilungen, Nachrichtenartikel, Blogbeitraege zu politischen Themen oder Informationsseiten zu Gesundheitsthemen.

Die Ausnahme bei redaktioneller Kontrolle

Für Unternehmen besonders relevant ist die Ausnahme in Artikel 50 Absatz 4. Kuenstlich erzeugte Textinhalte sind von der Kennzeichnungspflicht befreit, wenn zwei Bedingungen gleichzeitig erfüllt sind:

1. Die Inhalte wurden einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen.
2. Eine natuerliche oder juristische Person traegt die redaktionelle Verantwortung für die Veröffentlichung.

Wenn Ihr Marketingteam einen Blogartikel mit KI-Unterstuetzung erstellt, den Text anschließend überprüft, korrigiert und unter dem Firmennamen veröffentlicht, entfaellt die Kennzeichnungspflicht. Die redaktionelle Kontrolle muss dabei substanziell sein. Ein blosses Durchwinken ohne inhaltliche Prüfung reicht nach der Intention des Gesetzgebers nicht aus. Aus der Beratungspraxis beobachten wir, dass genau diese Hausaufgabe im Alltag am häufigsten schlampig erledigt wird: Texte werden formal freigegeben, ohne dass jemand inhaltlich mitliest. Im Streitfall laesst sich das im Nachhinein schwer erklären.

Diese Ausnahme gilt ausdrücklich nur für Texte. Für synthetische Bilder, Videos und Audioinhalte bleibt die Kennzeichnungspflicht bestehen, auch wenn ein Mensch den Inhalt überprüft hat.

Ausnahmen für Kunst, Satire und Strafverfolgung

Der EU AI Act sieht weitere Ausnahmen vor:

• Strafverfolgung: Die Kennzeichnungspflicht entfaellt, wenn der KI-Einsatz gesetzlich zur Aufdeckung, Verhuetung, Ermittlung oder Verfolgung von Straftaten zugelassen ist.
• Kunst und Satire: Bei offensichtlich kuenstlerischen, kreativen, satirischen oder fiktionalen Werken beschraenkt sich die Pflicht darauf, das Vorhandensein KI-generierter Inhalte "in geeigneter Weise" offenzulegen, ohne die Darstellung oder den Genuss des Werks zu beeintraechtigen. Ein Abspann oder eine Fussnote genuegt.

Bussgelder und Durchsetzung

Verstoesse gegen die Transparenzpflichten nach Artikel 50 können mit Bussgeldern von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden, wobei der höhere Betrag massgeblich ist.

Die Durchsetzung ist differenziert zu betrachten. Verstoesse gegen die Kennzeichnungspflicht sind nicht in jedem Fall unmittelbar bussgeldbewehrt. Sie können jedoch insbesondere bei systematischer Taeuschung, irrefuehrender Kommunikation oder in Verbindung mit Verstoessen gegen Verbraucherschutz- oder Wettbewerbsrecht aufsichtsrechtliche Konsequenzen nach sich ziehen.

Die nationalen Aufsichtsbehörden werden die konkreten Durchsetzungsmechanismen noch ausgestalten. In Deutschland wird voraussichtlich die Bundesnetzagentur als zuständige Marktüberwachungsbehörde fungieren.

Code of Practice: Praktische Umsetzungshilfe

Am 17. Dezember 2025 hat die EU-Kommission über das AI Office den ersten Entwurf eines Code of Practice zur Transparenz KI-generierter Inhalte veröffentlicht. Dieser freiwillige Verhaltenskodex soll Unternehmen praktische Anleitungen zur Umsetzung von Artikel 50 geben. Ein zweiter Entwurf wurde für Maerz 2026 angekuendigt, der finale Code wird voraussichtlich im Juni 2026 vorliegen.

Der Code of Practice behandelt unter anderem:

• Technische Standards für Wasserzeichen und Metadaten
• Anforderungen an die sichtbare Kennzeichnung
• Branchenspezifische Leitlinien für Medien, Marketing und Kundenkommunikation
• Interoperabilitaetsstandards zwischen verschiedenen KI-Systemen

Praxisbeispiele: Wer ist betroffen?

Die Transparenzpflichten betreffen mehr Unternehmen, als auf den ersten Blick ersichtlich ist.

E-Commerce-Unternehmen: Wenn Ihr Chatbot Kundenanfragen beantwortet, müssen Sie den KI-Einsatz offenlegen. Das gilt auch für KI-generierte Produktbeschreibungen, sofern diese nicht redaktionell geprüft werden.

Marketingagenturen: KI-generierte Werbetexte fallen unter die Ausnahme der redaktionellen Kontrolle, sofern ein Mensch die Verantwortung übernimmt. KI-generierte Bilder für Social Media müssen dagegen als synthetisch gekennzeichnet werden.

Medienunternehmen: Redaktionell geprüftes Artikel, die mit KI-Unterstuetzung erstellt wurden, sind von der Kennzeichnungspflicht befreit. Vollständig KI-generierte Nachrichten-Zusammenfassungen ohne menschliche Prüfung dagegen nicht.

Personaldienstleister: KI-gestuetzte Chatbots, die mit Bewerbern kommunizieren, müssen als KI-Systeme gekennzeichnet werden. Das gilt unabhängig davon, ob der Chatbot nur Informationen gibt oder Bewerberdaten erfasst.

Bildungsanbieter: KI-generierte Lehrmaterialien, die von einem Dozenten geprüft und verantwortet werden, fallen unter die Ausnahme. Automatisierte Bewertungssysteme, die direkt mit Teilnehmern interagieren, erfordern eine Kennzeichnung.

Was Unternehmen jetzt tun sollten

Auch wenn die Transparenzpflichten erst ab August 2026 verbindlich gelten, sollten Sie jetzt mit der Vorbereitung beginnen.

Bestandsaufnahme. Identifizieren Sie alle KI-Systeme in Ihrem Unternehmen, die unter Artikel 50 fallen. Dazu gehören Chatbots, KI-generierte Marketinginhalte, synthetische Medien und automatisierte Kundenkommunikation.

Prozesse definieren. Legen Sie fest, wer die redaktionelle Verantwortung für KI-generierte Inhalte traegt und wie die menschliche Überprüfung dokumentiert wird.

Technische Umsetzung. Prüfen Sie, ob Ihre KI-Tools technische Markierungen (Wasserzeichen, Metadaten) unterstuetzen. Fordern Sie diese Funktionalitaet gegebenenfalls bei Ihren Anbietern ein.

Mitarbeiter schulen. Sensibilisieren Sie Ihre Teams für die neuen Pflichten. Besonders Marketing-, Kommunikations- und Kundenservice-Abteilungen sind betroffen.

Compliance-Dokumentation. Halten Sie schriftlich fest, welche KI-Systeme Sie einsetzen, welche Inhalte damit erzeugt werden und wie die Kennzeichnung erfolgt.

Wenn Sie Ihre Mitarbeiter systematisch auf die neuen Anforderungen vorbereiten möchten, bietet eine strukturierte KI-Weiterbildung die notwendige Grundlage. Für Unternehmen, die KI-Kompetenz intern aufbauen wollen, liegt zusätzlich ein praktischer Leitfaden zum Einstieg bereit.

Häufige Fragen

Müssen alle KI-generierten Inhalte gekennzeichnet werden? Nein. Artikel 50 unterscheidet nach Art des Inhalts und Kontext. Texte, die einer redaktionellen Kontrolle unterliegen und unter Verantwortung einer natuerlichen oder juristischen Person veröffentlicht werden, sind von der Kennzeichnungspflicht ausgenommen. Synthetische Bilder, Videos und Audioinhalte müssen dagegen grundsaetzlich gekennzeichnet werden.

Gilt die Kennzeichnungspflicht auch für interne Dokumente? Die Transparenzpflichten nach Artikel 50 betreffen primaer die Kommunikation mit externen Personen und die Veröffentlichung von Inhalten. Rein interne Dokumente, die nicht veröffentlicht werden, fallen in der Regel nicht darunter. Die Pflicht zur Kennzeichnung von Chatbot-Interaktionen greift jedoch auch bei internen Systemen, wenn Mitarbeiter mit KI kommunizieren.

Was bedeutet "redaktionelle Kontrolle" konkret? Redaktionelle Kontrolle bedeutet eine substanzielle inhaltliche Überprüfung durch einen Menschen, nicht nur ein formales Freigabeverfahren. Der Verantwortliche muss den Inhalt gelesen, auf Richtigkeit geprüft und gegebenenfalls angepasst haben. Eine reine Schaltflaeche "Freigeben" ohne inhaltliche Prüfung erfüllt die Anforderungen voraussichtlich nicht.

Welche Bussgelder drohen bei Verstoessen? Der EU AI Act sieht Bussgelder bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes vor. In der Praxis werden die nationalen Aufsichtsbehörden die Sanktionen nach Schwere und Art des Verstosses differenzieren.

Betrifft Artikel 50 auch kleine Unternehmen und Selbststaendige? Ja, die Transparenzpflichten gelten unabhängig von der Unternehmensgröße. Allerdings sieht der EU AI Act in anderen Bereichen Erleichterungen für KMU vor. Die praktische Umsetzung wird für kleine Unternehmen in der Regel weniger aufwaendig sein, da sie typischerweise weniger KI-Systeme einsetzen.

Ab wann muss ich die neuen Regeln einhalten? Die Transparenzpflichten nach Artikel 50 gelten verbindlich ab dem 2. August 2026. Der EU AI Act trat zwar bereits am 1. August 2024 in Kraft, die verschiedenen Bestimmungen werden jedoch gestaffelt wirksam.