Wer die KI-Verordnung prüft und wo im Mittelstand Lücken liegen

Zentrale Aufsichtsbehörde für die EU-KI-Verordnung ist in Deutschland seit dem 29. Juli 2026 die Bundesnetzagentur. So regelt es das KI-MIG (KI-Marktüberwachungs- und Innovationsförderungsgesetz vom 22. Juli 2026). Das BSI hat darin nur eine Nebenrolle. Die Digital-Omnibus-Verordnung (EU) 2026/1744, seit dem 27. Juli 2026 in Kraft, hat die Hochrisiko-Pflichten nach Annex III auf den 2. Dezember 2027 verschoben. Weiter gelten seit dem 2. Februar 2025 Art. 4 KI-VO zur KI-Kompetenz und die Verbote nach Art. 5 KI-VO, ab Dezember 2026 kommen die Kennzeichnungspflichten nach Art. 50(2) KI-VO hinzu. Für deutsche Mittelständler ist jetzt der Zeitpunkt, um vorbereitet zu sein.

↓ Welche Unterlagen bei einer Anfrage der Marktüberwachung gefragt sein können, welche typischen Lücken in deutschen KMU bestehen und wie die Vorbereitung aussieht, klärt der folgende Überblick.

Es gibt eine verbreitete Fehlannahme in deutschen Mittelständlern, die wir in Beratungsgesprächen seit Mai immer wieder hören: "Die Hochrisiko-Pflichten sind auf 2027 verschoben, also haben wir bis dahin Zeit." Das ist eine teure Fehleinschätzung. Die Verschiebung betrifft den Pflicht-Katalog für Hochrisiko-KI-Systeme nach Annex III KI-VO. Sie betrifft nicht die Marktüberwachung, die seit Ende Juli 2026 bei der Bundesnetzagentur liegt. Und sie betrifft erst recht nicht Art. 4 KI-Kompetenz, der seit dem 2. Februar 2025 für jeden gilt, der KI-Systeme im Betrieb einsetzt.

Worauf die Marktüberwachung achten wird

Aus dem Text der KI-Verordnung ergeben sich vier Bereiche, auf die sich jeder Betrieb einstellen sollte.

Erstens KI-Kompetenz nach Art. 4 KI-VO. Anbieter und Betreiber müssen Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz ihres Personals zu unterstützen. Ein bestimmtes Kompetenzniveau oder eine Nachweispflicht schreibt Art. 4 nicht vor, und Art. 99 knüpft kein Bußgeld daran. Eine Schulungsstrategie mit durchgeführten und dokumentierten Schulungen ist trotzdem der einfachste Beleg für die eigene Sorgfalt, etwa gegenüber Kunden oder im Schadensfall.

Zweitens KI-System-Inventar. Welche KI-Systeme setzt das Unternehmen ein, welche Anbieter, welche Datenarten, welche Anwendungsbereiche. Das ist die Voraussetzung für jede weitere Aufsichtsentscheidung. Wer das Inventar nicht hat, kann auch keine Aussage zur Einordnung der Systeme in Risikoklassen treffen. Sinnvoll ist das Inventar als Dokument, plus eine kurze Beschreibung, wie es erhoben wurde.

Drittens Verbote nach Art. 5 KI-VO. Entscheidend ist, ob das Unternehmen Systeme einsetzt, die unter Art. 5 fallen. Das sind etwa Social Scoring, manipulative Persuasionstechniken, biometrische Echtzeit-Identifikation im öffentlichen Raum ohne Rechtsgrundlage, Emotionserkennung am Arbeitsplatz mit bestimmten Ausnahmen. Für die meisten Mittelständler ist Art. 5 nicht relevant, weil typische KI-Anwendungen nicht unter die Verbote fallen. Aber: Wer KI in Mitarbeiter-Überwachung, in Recruiting mit Emotions- oder Stimmanalyse oder in Kunden-Scoring mit sensitiven Merkmalen einsetzt, sollte die Einordnung sehr ernst nehmen.

Viertens ab 2. Dezember 2026 Watermarking-Pflichten nach Art. 50(2) KI-VO. Anbieter generativer KI müssen sicherstellen, dass Outputs maschinenlesbar als KI-erzeugt markiert sind. Anwender müssen die Watermarking-Funktionen aktiv lassen, dürfen sie nicht systematisch entfernen. Prüfen sollte man deshalb die Konfiguration der eingesetzten Tools.

Welche Sanktionen drohen

Das KI-MIG gibt den Marktüberwachungsbehörden, allen voran der Bundesnetzagentur, Befugnisse nach der EU-Marktüberwachungsverordnung (§ 11 KI-MIG), die Bußgelder richten sich nach Art. 99 KI-VO. Möglich sind Bußgelder, Anordnungen zur Behebung von Mängeln, die Untersagung des Betriebs von KI-Systemen und der Rückruf von Produkten. Bei groben Verstößen sind alle drei letzteren Maßnahmen möglich.

Die Bußgeld-Höhen aus Art. 99 KI-VO sind unverändert. Bei Verstößen gegen Art. 5 Verbote bis zu 35 Millionen Euro oder 7 Prozent vom weltweiten Jahresumsatz. Bei Verstößen gegen Hochrisiko-Pflichten bis 15 Millionen Euro oder 3 Prozent (ab Inkrafttreten der Hochrisiko-Pflichten 12/2027). Bei falschen Auskünften gegenüber den Behörden bis 7,5 Millionen Euro oder 1 Prozent. Für KMU und Start-ups gilt nach Art. 99 Abs. 6 KI-VO jeweils der niedrigere der beiden Werte.

Wie streng die Bundesnetzagentur in der Anfangsphase vorgeht, lässt sich heute nicht verlässlich sagen. Wer kooperativ ist und Lücken mit einem Plan schließt, steht besser da als ein Betrieb, der bei einer zweiten Prüfung noch immer Lücken hat oder falsche Auskünfte gibt.

Was deutsche Mittelständler in den nächsten acht Wochen tun

Der 2. August 2026 ist vorbei, die Aufsicht ist eingerichtet. Wer noch nichts hat, fängt jetzt an. Vier Schritte, sortiert nach Priorität.

Erstens Schulungsnachweise für alle Mitarbeiter mit KI-Berührungspunkten. Wer ChatGPT, Microsoft Copilot, Claude, Gemini, eigene KI-Tools im Job nutzt, fällt unter Art. 4 KI-VO. Das gilt für Vertriebsmitarbeiter, Marketing, HR, Buchhaltung, IT, Geschäftsführung. Praktisch jeder Wissensarbeiter in einem modernen Mittelstand. Die Schulung muss inhaltlich KI-Kompetenz vermitteln, nicht nur Tool-Bedienung. Themen sind Funktionsweise von KI, Risiken (Halluzinationen, Bias, Datenschutz), Pflichten des Anwenders, dokumentierte Prompt-Hygiene.

Die DigiMan-Weiterbildung deckt diese Anforderungen vollständig ab. AZAV-zertifiziert (DEKRA; die Maßnahmenummer vergibt die Agentur für Arbeit), 720 UE, online, mit dokumentiertem Schulungsnachweis. Für Beschäftigte über das Qualifizierungschancengesetz gefördert, bei Betrieben mit weniger als 50 Beschäftigten in der Regel bis zu 100 Prozent der Lehrgangskosten plus Lohnzuschuss.

Zweitens KI-System-Inventar erstellen. Eine Tabelle mit System-Name, Anbieter, Anwendungsbereich, Datenkategorien, verantwortlicher Person. Diese Liste brauchst du bei jeder Anfrage der Marktüberwachung, und sie ist die Basis für die Risikoeinordnung nach KI-VO. Wer mit der Liste anfängt, stellt oft fest, dass im Betrieb mehr KI im Einsatz ist als gedacht. Schatten-IT-Tools von Mitarbeitern, kostenlose KI-Bots in Software, in die KI eingebaut wurde (Microsoft Office, Slack, CRM), spezialisierte Branchen-Software mit KI-Modulen.

Drittens Risikoeinordnung der KI-Systeme. Welche Systeme fallen unter Art. 5 (verboten), welche unter Annex III (Hochrisiko, ab 12/2027 voll pflicht-relevant), welche sind weder noch. Für die meisten Mittelständler wird die Mehrzahl der Systeme weder verboten noch hochrisiko sein. Aber: KI im Recruiting (CV-Vorauswahl, Eignungstests), KI in der Mitarbeiter-Bewertung, KI in der Kreditvergabe, KI in der Bildungs-Bewertung, KI in der Vergabe sozialer Leistungen sind als Hochrisiko klassifiziert. Wer das hat, plant jetzt die Vorbereitung der Hochrisiko-Pflichten für Ende 2027.

Viertens KI-Betriebsvereinbarung mit dem Betriebsrat, falls vorhanden. Welche KI-Systeme dürfen Mitarbeiter im Job nutzen, welche Daten dürfen verarbeitet werden, welche Outputs dürfen genutzt werden, wer ist verantwortlich. Eine KI-BV ist arbeitsrechtlich nicht zwingend Pflicht, aber bei Mitarbeiter-Datenverarbeitung über Art. 26 DSGVO und über BetrVG sehr empfehlenswert.

Wo deutsche Mittelständler typisch Lücken haben

In Beratungsgesprächen sehen wir wiederkehrende Muster.

Lücke 1: Keine dokumentierten Schulungsnachweise. KI-Tools werden im Arbeitsalltag eingesetzt, aber niemand kann belegen, dass die Beschäftigten dafür geschult wurden. Bußgeldbewehrt ist das nicht, aber im Schadensfall oder bei einer Kundenanfrage fehlt dann der einfachste Beleg für die eigene Sorgfalt.

Lücke 2: Schatten-IT. Mitarbeiter nutzen ChatGPT privat oder über kostenlose Konten, ohne dass die IT davon weiß. Ein Inventar wird auf den ersten Blick aussagen, dass "wir setzen Microsoft Copilot ein", aber in Wirklichkeit laufen zehn weitere KI-Tools parallel ohne Kontrolle. Das ist auch ein Datenschutz-Problem.

Lücke 3: Verträge mit KI-Anbietern. Auftragsverarbeitungsverträge nach DSGVO fehlen oder sind veraltet. Standardvertragsklauseln für Drittlandtransfer sind nicht angepasst. Bei einer Prüfung zählt nicht nur, welche KI eingesetzt wird, sondern auch, ob die rechtliche Grundlage existiert.

Lücke 4: Fehlende Risikoeinordnung. Niemand im Betrieb hat geprüft, ob die eingesetzte KI unter Annex III fällt. KI im Recruiting wird in vielen Mittelständlern eingesetzt, ohne dass die Geschäftsführung weiß, dass das Hochrisiko ist.

Fragen, auf die du Antworten haben solltest

Für KI-Systeme, die unmittelbar mit einer regulierten Finanztätigkeit zusammenhängen, ist nach dem KI-MIG die BaFin zuständig, für die meisten anderen Betriebe die Bundesnetzagentur. Diese Fragen sollte jeder Betrieb beantworten können, egal wer fragt:

"Können Sie uns Ihre Schulungsnachweise zur KI-Kompetenz für die folgende Stichprobe an Mitarbeitern zeigen?" Eine Pflicht zu solchen Nachweisen enthält Art. 4 nicht, sie sind aber der einfachste Beleg.

"Welche KI-Systeme setzen Sie im Unternehmen ein, geordnet nach Anwendungsbereich?" Das KI-Inventar als Dokument.

"Welche dieser Systeme fallen nach Ihrer Einschätzung unter Annex III KI-VO?" Die dokumentierte Risikoeinordnung.

"Wie ist die Datenflusslage bei diesen KI-Systemen, wer hat Zugriff auf die Eingaben und Ausgaben?" Datenschutz-Architektur.

"Welche Schritte planen Sie zur Vorbereitung auf die Hochrisiko-Pflichten ab Dezember 2027?" Roadmap-Frage.

Wer auf diese fünf Fragen mit dokumentierten Antworten kommen kann, ist gut vorbereitet. Wer ins Stocken kommt, sammelt Mängel-Anordnungen.

Wer haftet, wenn etwas schiefgeht

Verantwortlich für die KI-VO-Compliance ist die Geschäftsführung. Aufgaben können delegiert werden (Datenschutzbeauftragter, IT-Leiter, KI-Beauftragter), die Verantwortung bleibt aber bei der Geschäftsführung. Bei Bußgeldern und bei zivilrechtlicher Haftung wegen KI-Schäden ist die Geschäftsführer-Haftung der zentrale Hebel.

Was das praktisch bedeutet: Die Geschäftsführung sollte die Vorbereitung auf die KI-Aufsicht aktiv mitsteuern, nicht nur an die IT delegieren. In Beratungsgesprächen sehen wir das selten in der Praxis, dabei ist es der wichtigste Schritt. Eine GF, die nicht weiß, welche KI-Systeme im Unternehmen laufen, hat bei jeder Behördenanfrage ein strukturelles Problem.

Wer einen ersten Eindruck der DigiMan-Inhalte ohne Verkaufsgespräch will, geht in den kostenlosen KI-Schnupperkurs. Fünf Lektionen, wöchentliche Live-Demo am Mittwoch um 18 Uhr.

Was nach August 2026 kommt

Die Aufsichtspraxis der Bundesnetzagentur läuft erst an. Wann erste Bußgeldentscheidungen fallen, ist offen.

Ab Dezember 2026 kommen Watermarking-Pflichten dazu, was die Aufsichtsbereiche erweitert. Ab Dezember 2027 dann die volle Pflicht-Liste für Annex-III-Hochrisiko-KI. Wer 2026 die Grundlagen baut (Schulungen, Inventar, Risikoeinordnung), hat eine ruhige Vorbereitung auf die kommenden Stufen.

Die Zuständigkeiten regelt das KI-MIG: Die Bundesnetzagentur ist zentrale Marktüberwachungsbehörde, zentrale Anlaufstelle und Beschwerdestelle. Das BSI nimmt übergangsweise nur die Aufgabe der notifizierenden Behörde für biometrische Hochrisiko-Systeme nach Anhang III Nr. 1 wahr.

Häufige Fragen

Trifft die KI-Aufsicht ab August 2026 auch kleine Unternehmen unter 50 Mitarbeitern?

Ja, die Pflichten der KI-VO gelten ungeachtet der Unternehmensgröße. Kleinere Unternehmen haben reduzierte Bußgeld-Obergrenzen, aber sie sind nicht von den Pflichten ausgenommen. Wie die Bundesnetzagentur ihre Prüfungen gewichtet, ist offen; kleinere Mittelständler sind aber nicht ausgenommen.

Reicht eine einmalige KI-Schulung für alle Mitarbeiter aus?

Eine einmalige Grundschulung deckt Art. 4 KI-VO grundsätzlich ab, sollte aber durch regelmäßige Auffrischung ergänzt werden. KI-Tools entwickeln sich schnell, neue Risiken und neue Pflichten kommen hinzu. Eine jährliche Refresh-Schulung mit aktuellen Themen ist die typische Empfehlung. Bei der DigiMan-Weiterbildung ist die initiale Grundlage gegeben, Refresh-Module sind über Quartals-Updates verfügbar.

Was passiert, wenn die Aufsicht bei mir eine Lücke findet?

Wie die Bundesnetzagentur in der Anfangsphase vorgeht, hat sie nicht festgelegt. Ihre Befugnisse reichen von Anordnungen zur Nachbesserung bis zu Bußgeldern. Wer kooperativ ist und eine konkrete Roadmap zur Behebung vorlegen kann, hat eine deutlich entspanntere Inspektion als wer abwehrend reagiert. Bei wiederholten Lücken oder bei falschen Auskünften an die Behörde fängt sich das Unternehmen Bußgelder ein.

Ist die Verschiebung der Hochrisiko-Pflichten auf Dezember 2027 endgültig?

Ja. Die Einigung vom 7. Mai 2026 ist mit der Verordnung (EU) 2026/1744 umgesetzt, die seit dem 27. Juli 2026 in Kraft ist. Die Hochrisiko-Pflichten nach Anhang III gelten damit ab dem 2. Dezember 2027, nach Anhang I ab dem 2. August 2028.

Wer bei der Vorbereitung auf die KI-Aufsicht, der KI-Schulungsdokumentation oder dem KI-System-Inventar Unterstützung braucht, findet unter skill-sprinters.de/termin einen kurzen Telefontermin.