EU AI Act Hochrisiko-Pflichten: Was Mittelstand jetzt erledigt

Auf einen Blick: Am 2. Dezember 2027 treten die Pflichten für Hochrisiko-KI-Systeme nach Art. 6 ff. der KI-VO in Kraft (durch den Digital Omnibus von ursprünglich dem 2. August 2026 verschoben). Betroffen sind unter anderem KI in Personalauswahl, Kreditvergabe, Versicherung, kritischer Infrastruktur und bestimmten Bildungsentscheidungen. Wer betroffen ist, braucht ein Risikomanagementsystem, technische Dokumentation, Logging, menschliche Aufsicht und eine Konformitätserklärung. Bußgelder reichen bis 15 Mio EUR oder 3% des Jahresumsatzes (Art. 99 KI-VO). Wer jetzt nicht plant, hat die Fristen nicht.

Update (Juli 2026): Der Digital Omnibus hat die Hochrisiko-Pflichten aus Anhang III des EU AI Act auf den 2. Dezember 2027 verschoben (für KI in regulierten Produkten nach Anhang I: 2. August 2028). Aussagen und Zeitpläne in diesem Artikel, die sich noch auf den ursprünglichen Stichtag 2. August 2026 beziehen, sind entsprechend einzuordnen. Zum 2. August 2026 gelten weiterhin die Transparenzpflichten aus Art. 50 (Kennzeichnung von Chatbots, Deepfakes und KI-Inhalten).

In dreieinhalb Monaten greifen die Pflichten, die viele Unternehmen seit zwei Jahren auf der "später"-Liste haben. Wer KI in einem der Hochrisiko-Bereiche einsetzt, muss ab dem 2. Dezember 2027 die Anforderungen aus Art. 8 bis Art. 15 KI-VO erfüllen. Das ist kein Soft-Launch. Die Bußgelder nach Art. 99 KI-VO sind echt, die Marktüberwachungsbehörden positionieren sich gerade, und einige sind schon im Audit-Modus.

Wichtig vorab: Die KI-Kompetenzpflicht nach Art. 4 KI-VO gilt unabhängig davon seit dem 02.02.2025 für alle KI-Nutzer. Die Hochrisiko-Pflichten ab August sind eine separate, deutlich strengere Stufe.

Welche Systeme als Hochrisiko gelten

Die KI-VO definiert Hochrisiko in zwei Wegen. Erstens über Anhang I, der eine Liste regulierter Produkte enthält (Medizinprodukte, Spielzeug, Aufzüge, Kraftfahrzeuge, Maschinen). Wenn ein Produkt aus dieser Liste KI als Sicherheitskomponente enthält, ist die KI automatisch Hochrisiko.

Zweitens über Anhang III. Dort listet die Verordnung konkrete Anwendungsfälle auf:

• Biometrische Identifikation (Fern-Identifikation, Emotionserkennung, Kategorisierung)
• Kritische Infrastruktur (Straßenverkehr, Wasser, Gas, Strom, Heizung, digitale Infrastruktur)
• Allgemeine und berufliche Bildung (Zulassung, Bewertung, Lernverhaltens-Erkennung)
• Beschäftigung und Personalmanagement (Bewerber-Screening, Stellenanzeigen-Targeting, Performance-Bewertung, Beförderungsentscheidungen)
• Wesentliche private und öffentliche Dienste (Bonitätsbewertung, Kreditscoring, Risikobewertung in der Lebens- und Krankenversicherung, Triage in Notfällen)
• Strafverfolgung, Migration, Justiz
• Demokratische Prozesse (Wahlbeeinflussung)

Für den Mittelstand sind besonders relevant: Personalauswahl, Bonitätsprüfung, Versicherungsmodelle und Bewertung in der beruflichen Aus- und Weiterbildung. Wenn dein HR-Tool eine KI-Bewerber-Vorauswahl macht, dein Versicherungsmakler-System KI-gestützte Risikoeinstufung anbietet oder dein Bildungsträger KI für Prüfungsbewertung einsetzt, bist du in Anhang III.

Es gibt eine Ausnahme nach Art. 6 Abs. 3: Auch wenn ein System unter Anhang III fällt, ist es kein Hochrisiko-System, wenn es nur eine "eng begrenzte verfahrenstechnische Aufgabe" erfüllt oder eine menschliche Entscheidung lediglich vorbereitet. Diese Ausnahme ist eng zu lesen, viele Anbieter werden sie überreizen wollen. Die Marktüberwachung wird im Zweifel als Hochrisiko klassifizieren.

Welche Pflichten konkret greifen

Wer ein Hochrisiko-System einsetzt oder betreibt, hat eine lange Liste an Pflichten. Ich konzentriere mich auf die, die KMU bis August erfüllen können müssen.

Risikomanagementsystem nach Art. 9. Ein dokumentierter Prozess, in dem du systematisch die Risiken deines KI-Systems identifizierst, bewertest und mit Maßnahmen versiehst. Das ist kein einmaliges Dokument, sondern ein laufender Prozess mit Updates. Aufwand für einen einzelnen Use-Case: 2-4 Wochen Aufbau, danach laufende Pflege.

Datenqualität nach Art. 10. Du musst sicherstellen, dass die Trainings-, Validierungs- und Testdaten "relevant, hinreichend repräsentativ und so weit wie möglich frei von Fehlern und vollständig" sind. Für Anwender (also dich, wenn du ein KI-Tool kaufst und einsetzt) heißt das: Du brauchst vom Anbieter eine Datenherkunfts-Dokumentation und musst prüfen, ob die Trainingsdaten zu deinem Einsatzkontext passen. Ein Personal-Tool, das ausschließlich an US-Bewerbern trainiert wurde, kann in DE problematisch sein.

Technische Dokumentation nach Art. 11 plus Anhang IV. Ein umfangreiches Dokument mit Systembeschreibung, Architektur, Trainingsmethoden, Performance-Metriken, Risiko-Bewertungen und Anweisungen für den sicheren Einsatz. Wer das System selbst entwickelt, schreibt die Doku selbst. Wer ein fremdes Tool nutzt, bekommt sie vom Anbieter und muss sie auf Vollständigkeit prüfen.

Logging nach Art. 12. Hochrisiko-Systeme müssen ihre Aktivitäten automatisch protokollieren. Die Logs müssen so lange aufbewahrt werden, wie es nach den Umständen angemessen ist (in der Regel mindestens sechs Monate). Anwender müssen diese Logs im Audit vorlegen können.

Transparenz nach Art. 13. Du musst betroffene Personen über den Einsatz informieren. Bei Personal-KI heißt das: Bewerber bekommen einen Hinweis im Bewerbungsprozess, dass KI eingesetzt wird, welche Daten verarbeitet werden und welche Rolle die KI in der Entscheidung hat.

Menschliche Aufsicht nach Art. 14. Es muss eine geschulte Person geben, die die KI-Ausgaben prüfen und im Zweifel überstimmen kann. Diese Person braucht die KI-Kompetenz nach Art. 4. In KMU ist das oft die HR-Leitung oder ein Compliance-Verantwortlicher.

Genauigkeit, Robustheit, Cybersicherheit nach Art. 15. Das System muss zuverlässig funktionieren und gegen Manipulationen geschützt sein. Für Anwender heißt das vor allem: Du dokumentierst die Performance-Werte des Anbieters und überwachst sie im laufenden Betrieb.

Was du als Anwender (Deployer) erfüllen musst

Anwender (in der Verordnung "Deployer" genannt) haben weniger Pflichten als Anbieter, aber sie sind real. Nach Art. 26 KI-VO musst du:

• Die System-Anweisungen des Anbieters befolgen
• Die Eingangsdaten in deinen Verantwortungsbereich kontrollieren
• Die menschliche Aufsicht organisieren
• Den Betrieb des Systems überwachen und Probleme dem Anbieter melden
• Logs aufbewahren, soweit dir das möglich ist
• Betroffene Personen informieren

Plus die übergreifende Pflicht: Du musst die Konformitätserklärung deines Anbieters einholen und im Verzeichnis ablegen. Wenn dein Anbieter keine vorlegt, hast du ein Problem.

Bußgelder: Was rechtlich auf dem Spiel steht

Art. 99 KI-VO regelt die Bußgelder. Sie sind nach Schwere gestaffelt.

Bei KMU werden die Bußgelder auf den jeweils niedrigeren Wert begrenzt (Art. 99 Abs. 6). Trotzdem reden wir hier über Summen, die einen Mittelständler in die Knie zwingen. Das ist nicht der übliche DSGVO-Buss-Bereich in vierstelliger Höhe.

Was du jetzt tun solltest

Bis zum 2. Dezember 2027 ist mehr Zeit, aber ein belastbares Compliance-Programm braucht Monate. Realistischer Plan:

Mai-Juni: Inventar. Du erstellst eine Liste aller KI-Tools, die in deinem Unternehmen laufen. Pro Tool: Wofür wird es eingesetzt, welche Personen sind betroffen, welche Daten gehen rein, welches Ergebnis kommt raus. Ein Excel reicht. Diese Inventur ist das Fundament für alles weitere.

Juni: Klassifikation. Pro Tool prüfst du: Ist das ein Hochrisiko-System nach Anhang III? Wenn ja, wer ist Anbieter, wer Anwender? Du holst die Konformitätserklärung beim Anbieter ein. Wenn dein Anbieter nicht liefert, hast du zwei Optionen: Wechseln oder den Use-Case einstellen.

Juli: Dokumentation und Schulung. Du baust pro Hochrisiko-System die geforderte Dokumentation auf (Risikomanagement, Datenqualität-Check, technische Doku). Du benennst die aufsichtführende Person, schulst sie und dokumentierst die Schulung. Du informierst betroffene Personen (Bewerber, Kunden) über den KI-Einsatz.

Anfang August: Prüfung. Ein letzter Compliance-Check, mindestens intern, besser durch einen externen Datenschutz-Beauftragten oder eine spezialisierte Kanzlei.

Das ist machbar, aber knapp. Wer im Juni anfängt, hat einen realistischen Puffer. Wer im Juli startet, lebt mit der Wahrscheinlichkeit, dass die Doku am 02.08. nicht steht.

Wann du eher Entwarnung geben kannst

Nicht jedes Unternehmen ist betroffen. Eine konservative Einschätzung: Wenn ihr keine eigene HR-KI, kein Kredit-/Versicherungs-Scoring und keine Bildungsentscheidungs-KI einsetzt und ihr keine eigenen KI-Systeme entwickelt, dann seid ihr wahrscheinlich kein Anbieter und kein Deployer von Hochrisiko-Systemen. Die Art.-4-Kompetenzpflicht trifft euch trotzdem, aber die Hochrisiko-Maschine springt euch nicht an.

Bewerber-Screening ist der häufigste Falle. Viele Recruiting-Tools haben in den letzten Jahren KI-Features ergänzt, die Anwender oft nicht aktiv kennen. Wenn du ein Recruiting-Tool nutzt, frag den Anbieter explizit: Wird in unserem Account KI für Vorauswahl, Matching oder Ranking eingesetzt? Wenn ja, brauchst du die Konformitätserklärung.

FAQ

Bin ich Anbieter oder Anwender, wenn ich ein KI-Tool nur einsetze?

Wenn du das Tool nicht selbst entwickelt hast und es ohne wesentliche Veränderungen nutzt, bist du Anwender (Deployer) nach Art. 26 KI-VO. Anbieter (Provider) bist du, wenn du das System selbst entwickelt, wesentlich umgebaut oder unter eigenem Namen weiterverkauft hast. Die Pflichten unterscheiden sich deutlich. Anbieter haben die volle Liste aus Art. 8 bis 15, Anwender vor allem die aus Art. 26.

Was passiert, wenn mein Anbieter keine Konformitätserklärung liefert?

Ein Hochrisiko-System ohne Konformitätserklärung darf in der EU nicht in Verkehr gebracht oder in Betrieb genommen werden (Art. 16 KI-VO). Wenn dein bestehender Anbieter bis August keine vorlegt, musst du entscheiden: Anbieter wechseln, Use-Case einstellen oder das System ohne KI weiter nutzen (falls technisch möglich). Die Verantwortung bleibt bei dir als Anwender. Du kannst dich nicht damit verteidigen, dass der Anbieter nicht geliefert hat.

Greift die Vereinfachung für KMU bei der Dokumentation?

Teilweise. Art. 62 KI-VO sieht für KMU vereinfachte Konformitaetsbewertungs-Verfahren vor, etwa beschleunigte Prüfungen und reduzierte Pflichten bei den Standardisierungs-Anforderungen. Die Grundpflichten aus Art. 8 bis 15 bleiben aber. Eine pauschale Ausnahme für Mittelständler gibt es nicht. Auch die Bußgelder werden bei KMU nur insoweit gedeckelt, als der niedrigere Wert aus EUR-Betrag und Prozent-Jahresumsatz gilt.

Wer ist Marktüberwachungsbehörde für den EU AI Act in Deutschland?

Die Aufsicht ist noch in der Aufbauphase. Bislang sind in Deutschland mehrere Behörden parallel zuständig, je nach Sektor: die Bundesnetzagentur für kritische Infrastruktur, die BaFin für Finanzdienstleistungen, das Bundesamt für Sicherheit in der Informationstechnik (BSI) für Cybersicherheits-Aspekte. Eine zentrale "AI Office Germany" ist im Aufbau, war aber zum Mai 2026 noch nicht voll arbeitsfähig. Für Mittelstand-Anwender heißt das: Du sprichst je nach Branche mit unterschiedlichen Stellen. Im Zweifel fragst du beim Datenschutz-Beauftragten deines Bundeslandes nach.

Zuletzt geprüft am 17.05.2026.

Du willst die KI-VO-Pflichten in deinem Unternehmen sauber aufsetzen, mit Förderung? Im kostenlosen KI-Schnupperkurs zeigen wir dir die Art.-4-Grundlagen. Für Hochrisiko-Themen empfiehlt sich unser DigiMan-Kurs mit Bildungsgutschein-Förderung, der Datenschutz, Compliance und KI-Praxis in 16 Wochen verbindet.

Über den Autor

Dr. Jens Aichinger ist promovierter Wirtschaftspädagoge, Gründer von SkillSprinters und seit über zehn Jahren in der digitalen Bildung tätig. Mit dem DEKRA-zertifizierten Bildungsträger SkillSprinters betreut er bundesweit KMU bei der KI-Einführung und EU-AI-Act-Compliance. Mehr unter skill-sprinters.de/autor/jens-aichinger/.