KI-generierte Inhalte kennzeichnen: Transparenzpflicht für Unternehmen

Update April 2026: Das EU-Parlament hat am 27.03.2026 die Verschiebung der Hochrisiko-KI-Pflichten beschlossen (Digital Omnibus, 569:45 Stimmen). Annex III tritt jetzt am 02.12.2027 in Kraft, Annex I am 02.08.2028. Der zweite Trilog ist für den 28.04.2026 angesetzt. WICHTIG: Die AI Literacy Pflicht nach Artikel 4 KI-VO bleibt unverändert ab August 2026 in Kraft. Schulungsnachweise sind also weiterhin Pflicht.

Dein Unternehmen nutzt ChatGPT für Produktbeschreibungen, lässt KI-Bilder für Social Media generieren oder setzt einen Chatbot im Kundenservice ein. Alles läuft. Aber eine Frage bleibt offen: Musst du das kennzeichnen? Und wenn ja, wie?

Mit dem EU AI Act gibt es erstmals eine europaweit verbindliche Antwort. Artikel 50 regelt die Transparenzpflichten für KI-generierte Inhalte. Wer dagegen verstößt, riskiert Bußgelder bis 15 Millionen Euro. Dieser Artikel zeigt dir, was genau gelten wird, welche Inhalte betroffen sind und wie du die Pflicht in der Praxis umsetzt.

Das Wichtigste in Kürze

• Artikel 50 EU AI Act regelt Transparenzpflichten für KI-generierte Inhalte. Die Vorschrift gilt ab dem 2. August 2026.
• Betroffen sind alle Unternehmen, die KI-Systeme einsetzen, um Texte, Bilder, Audio oder Video zu erzeugen oder zu manipulieren.
• Rein interne Nutzung (z. B. Brainstorming, interne Zusammenfassungen) ist von der Kennzeichnungspflicht weitgehend ausgenommen.
• Externe Inhalte (Marketing, Kundenservice, Produktbeschreibungen, Social Media) fallen unter die Pflicht, sofern sie nicht offensichtlich trivial sind.
• Deepfakes (manipulierte Bilder, Audio, Video von realen Personen) müssen immer gekennzeichnet werden.
• Die praktische Umsetzung erfolgt über Disclaimer-Texte, Metadaten-Kennzeichnung oder Wasserzeichen.
• Die Weiterbildung zum Digitalisierungsmanager vermittelt KI-Kompetenz inklusive Compliance-Wissen, DEKRA-zertifiziert und mit Bildungsgutschein förderbar.

Was regelt Artikel 50 EU AI Act?

Artikel 50 der Verordnung (EU) 2024/1689 trägt den Titel "Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme". Er unterscheidet zwischen drei Pflichten:

1. Anbieter von KI-Systemen müssen sicherstellen, dass ihre Systeme die Ausgaben so kennzeichnen, dass sie maschinenlesbar als KI-generiert erkannt werden können. Das betrifft Anbieter wie OpenAI, Google, Midjourney oder Adobe.

2. Betreiber (Deployer) von KI-Systemen, die synthetische Inhalte erzeugen, müssen offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Das betrifft dein Unternehmen, wenn du mit diesen Tools Inhalte erstellst und veröffentlichst.

3. Deepfakes unterliegen einer besonderen Kennzeichnungspflicht. Wer Bilder, Audio oder Video realer Personen mit KI manipuliert oder erzeugt, muss das kenntlich machen.

Was zählt als KI-generierter Inhalt?

Der EU AI Act definiert den Begriff weit. Betroffen sind:

• Texte, die von einem KI-System erzeugt wurden (z. B. ChatGPT, Claude, Gemini)
• Bilder, die durch KI generiert oder wesentlich verändert wurden (z. B. Midjourney, DALL-E, Stable Diffusion)
• Audio, das KI-erzeugt ist (z. B. synthetische Stimmen, Text-to-Speech)
• Video, das KI-generiert oder manipuliert wurde (z. B. Deepfakes, KI-Avatare)

Nicht betroffen sind reine KI-gestützte Hilfsfunktionen wie Rechtschreibprüfung, Grammatikkorrektur oder Suchvorschläge. Diese erzeugen keinen neuen Inhalt.

Wann muss KI-Content gekennzeichnet werden?

Die entscheidende Frage lautet: Ist der Inhalt für Menschen bestimmt, und kann er als Information, Meinung, Kunst oder sonstiger Inhalt wahrgenommen werden? Wenn ja, greift die Transparenzpflicht.

Unterschied: Intern vs. extern

Grauzone: E-Mails an Kunden. Wenn du eine E-Mail mit ChatGPT formulierst und vor dem Versand selbst prüfst und anpasst, ist das eine KI-gestützte (nicht KI-generierte) Erstellung. Sobald du aber eine E-Mail unverändert von der KI senden lässt, greift die Pflicht.

Unterschied: Marketing vs. Kundenservice

Sonderfall Chatbots: Artikel 50 Abs. 1 verlangt explizit, dass Personen, die mit einem KI-System interagieren, darüber informiert werden. Das gilt unabhängig vom Inhalt. Jeder Chatbot auf deiner Website, der nicht offensichtlich als solcher erkennbar ist, muss sich als KI-System zu erkennen geben.

Ausnahmen: Wann du nicht kennzeichnen musst

Der EU AI Act sieht in Artikel 50 Abs. 4 Ausnahmen vor:

1. Offensichtlich künstlerische oder fiktionale Inhalte. Wenn der KI-generierte Charakter eines Inhalts für einen durchschnittlichen Betrachter offensichtlich ist, entfällt die Pflicht. Beispiel: Ein eindeutig als Illustration erkennbares KI-Bild auf einem Blog-Artikel.

2. Inhalte, die keinen wesentlichen Informationscharakter haben. Rein dekorative Elemente ohne inhaltliche Aussage.

3. Inhalte, die ausschließlich zur Erkennung von Straftaten eingesetzt werden (Strafverfolgung).

4. Redaktionell stark überarbeitete Inhalte. Wenn ein Mensch den KI-Output wesentlich verändert, inhaltlich verantwortet und als eigenen Beitrag veröffentlicht, kann die Kennzeichnungspflicht entfallen. Der EU AI Act spricht davon, dass die natürliche Person "die redaktionelle Verantwortung übernimmt".

Aber Vorsicht: Die Ausnahme für redaktionelle Überarbeitung ist eng auszulegen. Ein paar Wörter ändern und "Verantwortung übernehmen" reicht nicht. Du musst den Inhalt substantiell geprüft, angepasst und als deinen eigenen verantwortet haben.

Praktische Umsetzung

Disclaimer-Texte

Für die meisten Unternehmen ist ein Texthinweis die einfachste Lösung. Hier sind Formulierungen, die den Anforderungen des EU AI Act entsprechen:

Für Blog-Artikel und Produktbeschreibungen:

Dieser Text wurde mit Unterstützung von KI-Werkzeugen erstellt und redaktionell geprüft.

Für Social Media Posts:

Erstellt mit KI-Unterstützung.

Für Chatbots (Pflicht nach Art. 50 Abs. 1):

Du sprichst mit einem KI-gestützten Assistenten. Für persönliche Beratung erreichst du unser Team unter [Kontakt].

Für Newsletter:

Teile dieses Newsletters wurden mit KI-Werkzeugen erstellt und von unserer Redaktion geprüft.

Für KI-generierte Bilder:

Bild: KI-generiert.

Metadaten und Wasserzeichen

Artikel 50 verlangt von Anbietern (nicht von Betreibern), dass KI-generierte Inhalte maschinenlesbar gekennzeichnet werden. In der Praxis bedeutet das:

C2PA-Standard (Coalition for Content Provenance and Authenticity): - Digitales Wasserzeichen, das in die Datei-Metadaten eingebettet wird - Unterstützt von Adobe, Microsoft, Google, OpenAI - Tools wie Adobe Content Credentials oder die OpenAI-API fügen C2PA-Metadaten automatisch hinzu

SynthID (Google DeepMind): - Unsichtbares Wasserzeichen in Bildern und Texten - Bereits in Gemini und Imagen integriert

Was du als Betreiber tun solltest: - Prüfe, ob die von dir genutzten KI-Tools automatisch Metadaten setzen - Entferne diese Metadaten nicht (das wäre ein Verstoß gegen Art. 50 Abs. 6) - Ergänze einen sichtbaren Disclaimer, wo Metadaten allein nicht ausreichen

Checkliste: KI-Kennzeichnung implementieren

1. Inventur: Welche Abteilungen nutzen KI-Tools, um externe Inhalte zu erzeugen?
2. Kategorisierung: Welche Inhalte fallen unter die Kennzeichnungspflicht, welche nicht?
3. Disclaimer-Vorlagen: Erstelle standardisierte Kennzeichnungstexte für jeden Kanal.
4. Chatbot-Kennzeichnung: Stelle sicher, dass alle Chatbots sich als KI-System zu erkennen geben.
5. Metadaten-Prüfung: Prüfe, ob deine KI-Tools automatisch Metadaten setzen. Entferne sie nicht.
6. Richtlinie verabschieden: Integriere die Kennzeichnungspflicht in deine interne KI-Richtlinie.
7. Schulung: Schule alle Mitarbeiter, die KI-Content für externe Zwecke erstellen.

Was passiert bei Verstoß?

Artikel 99 des EU AI Act regelt die Sanktionen. Für Verstöße gegen die Transparenzpflichten des Artikel 50 gelten:

Wichtig: Diese Höchstbeträge sind Obergrenzen. Die tatsächliche Strafe richtet sich nach Art, Schwere und Dauer des Verstoßes, nach den getroffenen Abhilfemaßnahmen und nach der Größe des Unternehmens. Für KMU und Start-ups sieht der EU AI Act niedrigere Obergrenzen vor.

Darüber hinaus:

• Abmahnung durch Wettbewerber nach UWG (Gesetz gegen den unlauteren Wettbewerb) wegen irreführender geschäftlicher Handlung, wenn KI-Content nicht als solcher gekennzeichnet ist
• Vertrauensverlust bei Kunden, wenn nachträglich bekannt wird, dass Inhalte KI-generiert waren
• Reputationsschaden in der Presse, besonders in sensiblen Branchen wie Gesundheit, Recht oder Finanzen

Branchen-Beispiele

E-Commerce

Ein Online-Shop lässt Produktbeschreibungen für 5.000 Artikel von ChatGPT generieren. Die Texte werden von einem Redakteur stichprobenartig geprüft, aber nicht grundlegend überarbeitet.

Pflicht: Ja. Die Texte sind überwiegend KI-generiert und richten sich an Kunden. Ein Disclaimer wie "Produktbeschreibung mit KI-Unterstützung erstellt" am Seitenende oder in den Metadaten genügt.

Steuerberatung

Eine Kanzlei nutzt KI, um Mandantenanschreiben zu entwerfen. Ein Steuerberater prüft jeden Brief inhaltlich, ergänzt mandantenspezifische Details und unterschreibt persönlich.

Pflicht: Nein, sofern die redaktionelle Verantwortung tatsächlich beim Steuerberater liegt und der Inhalt substantiell geprüft wurde. Die KI war hier ein Entwurfs-Werkzeug, nicht der Autor.

Recruiting

Ein Unternehmen setzt einen KI-Chatbot ein, der Bewerbern Fragen zum Bewerbungsprozess beantwortet.

Pflicht: Ja, doppelt. Erstens muss der Chatbot sich als KI-System zu erkennen geben (Art. 50 Abs. 1). Zweitens müssen KI-generierte Antworten als solche erkennbar sein. Zusätzlich greift bei KI im Recruiting das Hochrisiko-Regime des EU AI Act (Anhang III Nr. 4).

Versicherungsmakler

Ein Versicherungsmakler generiert mit KI personalisierte Angebots-E-Mails. Die E-Mail enthält individuell berechnete Tarife und eine persönliche Empfehlung.

Pflicht: Ja. Die E-Mail enthält individuell zugeschnittene Informationen, die vom Empfänger als persönliche Beratung wahrgenommen werden können. Ein Hinweis wie "Diese Empfehlung wurde mit KI-Unterstützung erstellt und von unserem Team geprüft" ist nötig.

Marketing-Agentur

Eine Agentur erstellt KI-generierte Bilder für die Instagram-Kampagne eines Kunden. Die Bilder zeigen keine realen Personen, sondern abstrakte Produktvisualisierungen.

Pflicht: Ja, aber mit Einschränkung. Rein dekorative oder offensichtlich künstlerische KI-Bilder können unter die Ausnahme fallen. Realistische Produktfotos, die KI-generiert sind und wie echte Fotos wirken, müssen gekennzeichnet werden.

Zeitplan: Was gilt wann?

Du hast noch bis August 2026 Zeit, die Kennzeichnungspflicht umzusetzen. Aber Vorsicht: Wettbewerbsrechtliche Abmahnungen wegen irreführender Werbung (UWG) sind schon heute möglich, wenn KI-Content als menschengemacht dargestellt wird.

Zusammenhang mit anderen Pflichten

Die Transparenzpflicht steht nicht allein. Sie ist Teil eines Compliance-Pakets:

• Art. 4 (KI-Kompetenz): Deine Mitarbeiter müssen verstehen, wann und wie sie KI-Inhalte kennzeichnen müssen. Dazu brauchen sie Schulung.
• Urheberrecht: KI-generierte Inhalte können urheberrechtliche Fragen aufwerfen. Wem gehört ein KI-generierter Text? Darfst du ihn als deinen eigenen veröffentlichen? Details im Artikel zu KI und Urheberrecht.
• DSGVO: Wenn KI-generierte Inhalte personenbezogene Daten enthalten (z. B. ein Chatbot, der mit Kundendaten arbeitet), greifen zusätzlich die Pflichten der DSGVO.
• UWG: Irreführende Werbung ist schon heute verboten. KI-generierte Testimonials, die wie echte Kundenbewertungen aussehen, verstoßen gegen das Wettbewerbsrecht.

FAQ

Muss ich jeden Social Media Post kennzeichnen, bei dem ich ChatGPT genutzt habe?

Wenn du ChatGPT als Inspiration oder für einen Erstentwurf nutzt und den Post danach substantiell überarbeitest und als deinen eigenen verantwortest: nein. Wenn du den KI-Output mit minimalen Änderungen veröffentlichst: ja.

Gilt die Pflicht auch für B2B-Kommunikation?

Ja. Der EU AI Act unterscheidet nicht zwischen B2B und B2C. Jeder externe Empfänger hat ein Recht auf Transparenz.

Was ist mit KI-generierten Bildern auf meiner Website?

Realistische KI-Bilder (z. B. Personenfotos, Produktfotos) müssen gekennzeichnet werden. Offensichtlich abstrakte Illustrationen können unter die Kunstausnahme fallen. Im Zweifel: kennzeichnen.

Reicht ein allgemeiner Hinweis auf der Website?

Ein allgemeiner Hinweis in den Nutzungsbedingungen oder im Impressum ist besser als nichts, genügt aber voraussichtlich nicht. Die Kennzeichnung sollte dort sein, wo der Inhalt konsumiert wird.

Mein Chatbot ist offensichtlich ein Chatbot. Muss ich trotzdem kennzeichnen?

Ja. Art. 50 Abs. 1 verlangt eine explizite Information. "Offensichtlich" ist subjektiv. Eine kurze Zeile wie "Du sprichst mit einem KI-Assistenten" kostet nichts und schützt dich.

Darf ich C2PA-Metadaten aus KI-Bildern entfernen?

Nein. Artikel 50 Abs. 6 verbietet das. Wer maschinenlesbare Kennzeichnungen entfernt oder manipuliert, verstößt gegen den EU AI Act.

Nächster Schritt: KI-Kompetenz aufbauen

Die Transparenzpflicht ist nur ein Teil des Puzzles. Deine Mitarbeiter müssen wissen, wann KI-Content gekennzeichnet werden muss, wie die Disclaimer formuliert sein sollten und welche Ausnahmen gelten.

SkillSprinters bietet die Weiterbildung zum Digitalisierungsmanager für Prozessautomatisierung und KI an: 4 Monate, komplett online, DEKRA-zertifiziert und mit Bildungsgutschein zu 100 % förderbar. Der Kurs deckt neben praktischen KI-Tools auch EU AI Act Compliance, Risikomanagement und Dokumentationspflichten ab.

Für Unternehmen, die ihre Mitarbeiter qualifizieren wollen: Über das Qualifizierungschancengesetz übernimmt die Agentur für Arbeit bis zu 100 % der Weiterbildungskosten. Kein Risiko, volle Kompetenz.

Termin vereinbaren: 10 Minuten mit Dr. Jens Aichinger sprechen, ob die Weiterbildung zu deiner Situation passt.