KI-generierte Inhalte kennzeichnen: Transparenzpflicht für Unternehmen

Transparenzhinweis: Dieser Artikel ist auf der Website von SkillSprinters veröffentlicht. SkillSprinters ist Anbieter einer KI-Weiterbildung und steht damit in einem Wettbewerbsverhaeltnis zu einigen der hier genannten Anbieter bzw. deren Geschäftsfeldern. Wir bemuehen uns um eine faire Darstellung anhand öffentlich zugaenglicher Informationen, sind aber nicht neutral. Alle Angaben zu Preisen und Funktionen beruhen auf öffentlich zugaenglichen Herstellerangaben. Stand der Recherche: April 2026, Angaben ohne Gewaehr. Verbindlich sind ausschließlich die Angaben der jeweiligen Anbieter.

Update April 2026: Das EU-Parlament hat am 27.03.2026 die Verschiebung der Hochrisiko-KI-Pflichten beschlossen (Digital Omnibus, 569:45 Stimmen). Annex III tritt jetzt am 02.12.2027 in Kraft, Annex I am 02.08.2028. Der zweite Trilog ist für den 28.04.2026 angesetzt. Die AI Literacy Pflicht nach Artikel 4 KI-VO gilt seit dem 2. Februar 2025. Die Bußgeldvorschriften der KI-Verordnung greifen ab August 2026. Schulungsnachweise sind also weiterhin Pflicht.

Ein Onlineshop lässt ChatGPT Produktbeschreibungen formulieren, die Marketingabteilung generiert Instagram-Bilder mit Midjourney, im Kundenservice antwortet ein Chatbot auf häufige Fragen. Musst du das kennzeichnen, und wenn ja, wie?

Mit dem EU AI Act gibt es erstmals eine europaweit verbindliche Antwort. Artikel 50 regelt die Transparenzpflichten für KI-generierte Inhalte. Wer dagegen verstößt, riskiert Bußgelder bis 15 Millionen Euro. Dieser Artikel zeigt dir, was genau gilt, welche Inhalte betroffen sind und wie du die Pflicht in der Praxis umsetzt.

Was regelt Artikel 50 EU AI Act?

Artikel 50 der Verordnung (EU) 2024/1689 trägt den Titel "Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme". Er unterscheidet drei Gruppen von Pflichten.

Anbieter von KI-Systemen müssen sicherstellen, dass ihre Systeme die Ausgaben so kennzeichnen, dass sie maschinenlesbar als KI-generiert erkennbar sind. Das betrifft Anbieter wie OpenAI, Google, Midjourney oder Adobe.

Betreiber (Deployer) von KI-Systemen, die synthetische Inhalte erzeugen, müssen offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Das betrifft dein Unternehmen, wenn du mit diesen Tools Inhalte erstellst und veröffentlichst.

Deepfakes unterliegen einer besonderen Kennzeichnungspflicht. Wer Bilder, Audio oder Video realer Personen mit KI manipuliert oder erzeugt, muss das kenntlich machen.

Was zählt als KI-generierter Inhalt?

Der EU AI Act definiert den Begriff weit.

• Texte, die von einem KI-System erzeugt wurden (z. B. ChatGPT, Claude, Gemini)
• Bilder, die durch KI generiert oder wesentlich verändert wurden (z. B. Midjourney, DALL-E, Stable Diffusion)
• Audio, das KI-erzeugt ist (z. B. synthetische Stimmen, Text-to-Speech)
• Video, das KI-generiert oder manipuliert wurde (z. B. Deepfakes, KI-Avatare)

Nicht betroffen sind reine KI-gestützte Hilfsfunktionen wie Rechtschreibprüfung, Grammatikkorrektur oder Suchvorschläge. Die erzeugen keinen neuen Inhalt.

Wann muss KI-Content gekennzeichnet werden?

Die entscheidende Frage lautet: Ist der Inhalt für Menschen bestimmt, und kann er als Information, Meinung, Kunst oder sonstiger Inhalt wahrgenommen werden? Wenn ja, greift die Transparenzpflicht.

Intern oder extern

Eine Grauzone sind E-Mails an Kunden. Wenn du eine E-Mail mit ChatGPT formulierst und vor dem Versand selbst prüfst und anpasst, ist das eine KI-gestützte, nicht KI-generierte Erstellung. Sobald du aber eine Mail unverändert von der KI senden lässt, greift die Pflicht.

Marketing, Kundenservice, Vertrieb

Ein Sonderfall sind Chatbots. Artikel 50 Abs. 1 verlangt explizit, dass Personen, die mit einem KI-System interagieren, darüber informiert werden. Das gilt unabhängig vom Inhalt. Jeder Chatbot auf deiner Website, der nicht offensichtlich als solcher erkennbar ist, muss sich als KI-System zu erkennen geben.

Ausnahmen: Wann du nicht kennzeichnen musst

Artikel 50 Abs. 4 sieht Ausnahmen vor.

Offensichtlich künstlerische oder fiktionale Inhalte fallen heraus. Wenn der KI-generierte Charakter eines Inhalts für einen durchschnittlichen Betrachter offensichtlich ist, entfällt die Pflicht. Ein eindeutig als Illustration erkennbares KI-Bild auf einem Blog-Artikel fällt hier rein.

Rein dekorative Elemente ohne inhaltliche Aussage sind ebenfalls befreit, genauso wie Inhalte, die ausschließlich zur Erkennung von Straftaten eingesetzt werden (Strafverfolgung).

Redaktionell stark überarbeitete Inhalte können auch unter die Ausnahme fallen. Wenn ein Mensch den KI-Output wesentlich verändert, inhaltlich verantwortet und als eigenen Beitrag veröffentlicht, kann die Kennzeichnungspflicht entfallen. Der EU AI Act spricht davon, dass die natürliche Person "die redaktionelle Verantwortung übernimmt".

Diese Ausnahme ist eng auszulegen. Ein paar Wörter ändern und "Verantwortung übernehmen" reicht nicht. Du musst den Inhalt substantiell geprüft, angepasst und als deinen eigenen verantwortet haben. Wer das unterschätzt, verlässt sich im Zweifel auf eine Ausnahme, die vor Gericht nicht trägt.

Praktische Umsetzung

Disclaimer-Texte

Für die meisten Unternehmen ist ein Texthinweis die einfachste Lösung. Hier sind Formulierungen, die den Anforderungen des EU AI Act entsprechen.

Für Blog-Artikel und Produktbeschreibungen:

Dieser Text wurde mit Unterstützung von KI-Werkzeugen erstellt und redaktionell geprüft.

Für Social Media Posts:

Erstellt mit KI-Unterstützung.

Für Chatbots (Pflicht nach Art. 50 Abs. 1):

Du sprichst mit einem KI-gestützten Assistenten. Für persönliche Beratung erreichst du unser Team unter [Kontakt].

Für Newsletter:

Teile dieses Newsletters wurden mit KI-Werkzeugen erstellt und von unserer Redaktion geprüft.

Für KI-generierte Bilder:

Bild: KI-generiert.

Metadaten und Wasserzeichen

Artikel 50 verlangt von Anbietern (nicht von Betreibern), dass KI-generierte Inhalte maschinenlesbar gekennzeichnet werden. In der Praxis bedeutet das zwei konkurrierende Standards.

Der C2PA-Standard (Coalition for Content Provenance and Authenticity) ist ein digitales Wasserzeichen, das in die Datei-Metadaten eingebettet wird. Er wird von Adobe, Microsoft, Google und OpenAI unterstützt. Tools wie Adobe Content Credentials oder die OpenAI-API fügen C2PA-Metadaten automatisch hinzu.

SynthID (Google DeepMind) ist ein unsichtbares Wasserzeichen in Bildern und Texten. Bereits in Gemini und Imagen integriert.

Was du als Betreiber tun solltest: Prüfe, ob die von dir genutzten KI-Tools automatisch Metadaten setzen. Entferne diese Metadaten nicht, das wäre ein Verstoß gegen Art. 50 Abs. 6. Und ergänze einen sichtbaren Disclaimer, wo Metadaten allein nicht ausreichen.

Checkliste: KI-Kennzeichnung implementieren

1. Inventur: Welche Abteilungen nutzen KI-Tools, um externe Inhalte zu erzeugen?
2. Kategorisierung: Welche Inhalte fallen unter die Kennzeichnungspflicht, welche nicht?
3. Disclaimer-Vorlagen: Erstelle standardisierte Kennzeichnungstexte für jeden Kanal.
4. Chatbot-Kennzeichnung: Stelle sicher, dass alle Chatbots sich als KI-System zu erkennen geben.
5. Metadaten-Prüfung: Prüfe, ob deine KI-Tools automatisch Metadaten setzen. Entferne sie nicht.
6. Richtlinie verabschieden: Integriere die Kennzeichnungspflicht in deine interne KI-Richtlinie.
7. Schulung: Schule alle Mitarbeiter, die KI-Content für externe Zwecke erstellen.

Was passiert bei Verstoß?

Artikel 99 des EU AI Act regelt die Sanktionen. Für Verstöße gegen die Transparenzpflichten des Artikel 50 gelten:

Diese Höchstbeträge sind Obergrenzen. Die tatsächliche Strafe richtet sich nach Art, Schwere und Dauer des Verstoßes, nach den getroffenen Abhilfemaßnahmen und nach der Größe des Unternehmens. Für KMU und Start-ups sieht der EU AI Act niedrigere Obergrenzen vor.

Das Bußgeld ist nicht das einzige Risiko. Wettbewerber können nach UWG wegen irreführender geschäftlicher Handlung abmahnen, wenn KI-Content nicht als solcher gekennzeichnet ist. Dazu kommt der Vertrauensverlust bei Kunden, wenn nachträglich bekannt wird, dass Inhalte KI-generiert waren, plus Reputationsschäden in der Presse, besonders in sensiblen Branchen wie Gesundheit, Recht oder Finanzen.

Branchen-Beispiele

E-Commerce

Ein Online-Shop lässt Produktbeschreibungen für 5.000 Artikel von ChatGPT generieren. Die Texte werden von einem Redakteur stichprobenartig geprüft, aber nicht grundlegend überarbeitet.

Pflicht: ja. Die Texte sind überwiegend KI-generiert und richten sich an Kunden. Ein Disclaimer wie "Produktbeschreibung mit KI-Unterstützung erstellt" am Seitenende oder in den Metadaten genügt.

Steuerberatung

Eine Kanzlei nutzt KI, um Mandantenanschreiben zu entwerfen. Ein Steuerberater prüft jeden Brief inhaltlich, ergänzt mandantenspezifische Details und unterschreibt persönlich.

Pflicht: nein, sofern die redaktionelle Verantwortung tatsächlich beim Steuerberater liegt und der Inhalt substantiell geprüft wurde. Die KI war hier ein Entwurfs-Werkzeug, kein Autor.

Recruiting

Ein Unternehmen setzt einen KI-Chatbot ein, der Bewerbern Fragen zum Bewerbungsprozess beantwortet.

Pflicht: ja, doppelt. Der Chatbot muss sich als KI-System zu erkennen geben (Art. 50 Abs. 1). Zusätzlich müssen KI-generierte Antworten als solche erkennbar sein. Dazu greift bei KI im Recruiting das Hochrisiko-Regime des EU AI Act (Anhang III Nr. 4).

Versicherungsmakler

Ein Versicherungsmakler generiert mit KI personalisierte Angebots-E-Mails. Die Mail enthält individuell berechnete Tarife und eine persönliche Empfehlung.

Pflicht: ja. Die E-Mail enthält individuell zugeschnittene Informationen, die vom Empfänger als persönliche Beratung wahrgenommen werden können. Ein Hinweis wie "Diese Empfehlung wurde mit KI-Unterstützung erstellt und von unserem Team geprüft" ist nötig.

Marketing-Agentur

Eine Agentur erstellt KI-generierte Bilder für die Instagram-Kampagne eines Kunden. Die Bilder zeigen keine realen Personen, sondern abstrakte Produktvisualisierungen.

Pflicht: ja, aber mit Einschränkung. Rein dekorative oder offensichtlich künstlerische KI-Bilder können unter die Ausnahme fallen. Realistische Produktfotos, die KI-generiert sind und wie echte Fotos wirken, müssen gekennzeichnet werden.

Wir sehen in der Beratung regelmäßig, dass genau diese Grauzonen unterschätzt werden. Wer ein KI-Bild einsetzt, das von einer echten Produktaufnahme nicht zu unterscheiden ist, und das nicht kennzeichnet, handelt sich im Zweifel nicht nur ein Bußgeld ein, sondern auch eine UWG-Abmahnung aus dem Wettbewerberlager. Die Branchen-Beispiele sind keine Sonderfälle, sie sind der Alltag.

Zeitplan: Was gilt wann?

Du hast noch bis August 2026 Zeit, die Kennzeichnungspflicht umzusetzen. Wettbewerbsrechtliche Abmahnungen wegen irreführender Werbung (UWG) sind aber schon heute möglich, wenn KI-Content als menschengemacht dargestellt wird.

Zusammenhang mit anderen Pflichten

Die Transparenzpflicht steht nicht allein. Sie ist Teil eines Compliance-Pakets.

Art. 4 (KI-Kompetenz) verlangt, dass deine Mitarbeiter verstehen, wann und wie sie KI-Inhalte kennzeichnen müssen. Dazu brauchen sie Schulung.

Im Urheberrecht können KI-generierte Inhalte Fragen aufwerfen. Wem gehört ein KI-generierter Text? Darfst du ihn als deinen eigenen veröffentlichen? Details im Artikel zu KI und Urheberrecht.

Die DSGVO greift zusätzlich, wenn KI-generierte Inhalte personenbezogene Daten enthalten. Ein Chatbot, der mit Kundendaten arbeitet, fällt in beide Regelungen gleichzeitig.

Das UWG verbietet irreführende Werbung schon heute. KI-generierte Testimonials, die wie echte Kundenbewertungen aussehen, verstoßen gegen das Wettbewerbsrecht, unabhängig vom AI Act.

FAQ

Muss ich jeden Social Media Post kennzeichnen, bei dem ich ChatGPT genutzt habe?

Wenn du ChatGPT als Inspiration oder für einen Erstentwurf nutzt und den Post danach substantiell überarbeitest und als deinen eigenen verantwortest: nein. Wenn du den KI-Output mit minimalen Änderungen veröffentlichst: ja.

Gilt die Pflicht auch für B2B-Kommunikation?

Ja. Der EU AI Act unterscheidet nicht zwischen B2B und B2C. Jeder externe Empfänger hat ein Recht auf Transparenz.

Was ist mit KI-generierten Bildern auf meiner Website?

Realistische KI-Bilder (z. B. Personenfotos, Produktfotos) müssen gekennzeichnet werden. Offensichtlich abstrakte Illustrationen können unter die Kunstausnahme fallen. Im Zweifel: kennzeichnen.

Reicht ein allgemeiner Hinweis auf der Website?

Ein allgemeiner Hinweis in den Nutzungsbedingungen oder im Impressum ist besser als nichts, genügt aber voraussichtlich nicht. Die Kennzeichnung sollte dort sein, wo der Inhalt konsumiert wird. Wer Compliance-Wissen im Team aufbauen will, findet das in der Weiterbildung zum Digitalisierungsmanager kompakt und DEKRA-zertifiziert.

Mein Chatbot ist offensichtlich ein Chatbot. Muss ich trotzdem kennzeichnen?

Ja. Art. 50 Abs. 1 verlangt eine explizite Information. "Offensichtlich" ist subjektiv. Eine kurze Zeile wie "Du sprichst mit einem KI-Assistenten" kostet nichts und schützt dich.

Darf ich C2PA-Metadaten aus KI-Bildern entfernen?

Nein. Artikel 50 Abs. 6 verbietet das. Wer maschinenlesbare Kennzeichnungen entfernt oder manipuliert, verstößt gegen den EU AI Act.