Hochrisiko-KI nach Anhang III EU AI Act: Praxisleitfaden für den Mittelstand 2026
Was gilt als Hochrisiko-KI nach Anhang III?
Ein KI-System ist Hochrisiko nach Art. 6 EU AI Act, wenn es entweder Sicherheitskomponente in einem CE-pflichtigen Produkt nach Anhang I ist (z.B. Aufzüge, Spielzeug, Medizinprodukte) oder in einen der acht Bereiche von Anhang III fällt.
| # | Bereich nach Anhang III | Mittelstand-Relevanz |
|---|---|---|
| 1 | Biometrie und Emotionserkennung | Zugangskontrolle, Kundenanalyse im Einzelhandel |
| 2 | Kritische Infrastruktur | Energieversorger, Wasser, Telekommunikation |
| 3 | Allgemeine und berufliche Bildung | Bewertung von Lernergebnissen, Prüfungs-Überwachung, Steuerung des Lernprozesses |
| 4 | Beschäftigung und Personalmanagement | Bewerber-Filterung, Stellenanzeigen-Targeting, Mitarbeiter-Bewertung - in fast jedem Mittelstand relevant |
| 5 | Zugang zu wesentlichen Diensten | Kreditscoring, Versicherungs-Tarifierung, Notruf-Routing, Sozialleistungen |
| 6 | Strafverfolgung | Hauptsächlich Behörden, indirekt private Sicherheitsdienste |
| 7 | Migration, Asyl, Grenzkontrolle | Behörden-zentriert |
| 8 | Rechtspflege und demokratische Prozesse | Justiz, Wahlen, Anwaltschaften |
Für den durchschnittlichen Mittelständler sind Nummern 3, 4 und 5 die relevantesten. Nummer 4 (Beschäftigung) trifft sogar fast jeden, der ein KI-gestütztes Bewerber-Tool oder eine KI-gestützte Mitarbeiter-Bewertung einsetzt.
Trilog-Verschiebung vom 7. Mai 2026: was sich geändert hat
Am 7. Mai 2026 haben sich EU-Kommission, EU-Parlament und Ministerrat im Trilog auf den sogenannten Digital Omnibus zum EU AI Act geeinigt. Wichtigster Punkt: die Anwendung der Hochrisiko-Pflichten wird verschoben.
| System-Typ | Ursprüngliche Frist | Neue Frist nach Trilog |
|---|---|---|
| Anhang III Hochrisiko-Systeme | 02.08.2026 | 02.12.2027 |
| Anhang I CE-Produkte mit KI (z.B. Aufzüge, Spielzeug) | 02.08.2027 | 02.08.2028 |
| Art. 4 KI-Kompetenz (Schulungspflicht) | 02.02.2025 | 02.02.2025 (unverändert) |
| Art. 5 verbotene KI-Praktiken | 02.02.2025 | 02.02.2025 (unverändert) |
Warum die Verschiebung? Die EU-Kommission begründet den Schritt damit, dass die harmonisierten Standards (CEN-CENELEC-Normen) und Unterstützungs-Werkzeuge nicht rechtzeitig fertig sind. Unternehmen sollen nicht in Compliance-Pflicht stehen, bevor die offiziellen Normen verfügbar sind.
Achtung: Die Trilog-Einigung muss noch formal von EU-Parlament und Ministerrat verabschiedet werden. Aufmerksam beobachten - eine kurzfristige Änderung ist theoretisch möglich.
Pflichten für Hochrisiko-KI
Trotz der Verschiebung bleiben die inhaltlichen Anforderungen unverändert. Anbieter (Provider) müssen vor Inverkehrbringen sechs Kern-Pflichten erfüllen:
- Risikomanagementsystem (Art. 9): iterativ über den gesamten Lebenszyklus
- Daten-Governance (Art. 10): repräsentative, fehlerfreie Trainingsdaten
- Technische Dokumentation (Art. 11 + Anhang IV): System-Beschreibung, Architektur, Konformitätsbewertung
- Aufzeichnungs-Logs (Art. 12): automatische Logs während des gesamten Betriebs
- Transparenz und Information (Art. 13): Anweisungen für Betreiber, was das System kann und nicht kann
- Menschliche Aufsicht (Art. 14): wirksame Überwachung durch natürliche Personen
- Genauigkeit, Robustheit, Cybersecurity (Art. 15): angemessenes Niveau über Lebenszyklus
Betreiber (Deployer), also Unternehmen die Hochrisiko-KI einsetzen, haben eigene Pflichten nach Art. 26: Anweisungen befolgen, menschliche Aufsicht sicherstellen, Logs aufbewahren, Mitarbeiter schulen, bei wesentlichen Auswirkungen auf natürliche Personen Folgenabschätzung durchführen.
Konformitätsbewertung und CE-Kennzeichnung
Vor dem Inverkehrbringen muss der Anbieter eine Konformitätsbewertung nach Art. 43 durchführen. Zwei Module:
- Modul A (interne Kontrolle): für die meisten Anhang-III-Systeme. Anbieter prüft selbst, dokumentiert und gibt EU-Konformitätserklärung ab.
- Modul H1 (benannte Stelle): für biometrische Fernidentifikation und kritische Infrastruktur. Externe Konformitätsprüfung durch zertifizierte Stelle.
Erfolgreiche Bewertung führt zur CE-Kennzeichnung nach Art. 48 und zur Eintragung in die EU-Datenbank für Hochrisiko-KI nach Art. 71. Beide Schritte sind ab 02.12.2027 für Anhang-III-Systeme verpflichtend.
Anbieter oder Betreiber - wer macht was?
| Rolle | Wer das ist | Hauptpflichten |
|---|---|---|
| Anbieter (Provider) | Entwickler oder Vermarkter unter eigenem Namen | Konformitätsbewertung, CE-Kennzeichnung, technische Doku, EU-Datenbank-Eintragung, Marktüberwachung |
| Betreiber (Deployer) | Unternehmen, das fremdes Hochrisiko-System einsetzt | Anweisungen befolgen, menschliche Aufsicht, Logs aufbewahren, Mitarbeiter schulen, ggf. Folgenabschätzung |
| Vertriebshändler | Vertreibt das System ohne wesentliche Änderung | CE-Kennzeichnung und Dokumentation prüfen, Anbieter-Identität verifizieren |
| Importeur | Bringt System aus Drittland in EU-Markt | EU-Bevollmächtigten benennen, Konformität sicherstellen |
Wichtig: ein Unternehmen kann zugleich Anbieter UND Betreiber sein - etwa wenn es ein KI-Tool für eigene Bewerberprozesse entwickelt und einsetzt.
Was Mittelständler jetzt schon machen sollten
Trotz Verschiebung auf 2. Dezember 2027 ist Warten keine Option. Die Vorbereitung dauert realistisch 12 bis 18 Monate. Drei sofort umsetzbare Schritte:
- Inventar aller eingesetzten KI-Systeme mit Risiko-Klassifizierung. Für jedes System notieren: Anbieter, Anwendungsbereich, mögliche Anhang-III-Einstufung, Anzahl betroffener Personen.
- Vertragliche Absicherung mit KI-Anbietern. Klauseln aufnehmen, dass der Anbieter die EU-AI-Act-Konformität bis spätestens Q4 2027 sicherstellt. Bei Vertragsverlängerungen aktiv einbringen.
- Aufbau interner Compliance-Strukturen. Verantwortliche benennen (typischerweise CISO oder Datenschutzbeauftragter), Risikomanagement-Prozess aufsetzen, Mitarbeiter zu KI-Kompetenz nach Art. 4 schulen (diese Pflicht gilt schon seit 02.02.2025).
Schnittstelle zu DSGVO, NIS2 und Art. 4 EU AI Act
Hochrisiko-KI berührt fast immer mehrere Compliance-Regelwerke gleichzeitig:
- DSGVO: bei personenbezogenen Daten in Trainingsdaten oder Verarbeitung. Eine DSGVO-DSFA ist bei Hochrisiko-KI fast immer zwingend nach Art. 35 DSGVO.
- NIS2: wenn Hochrisiko-KI in kritischen Infrastrukturen läuft. Siehe NIS2-Praxisleitfaden.
- Art. 4 EU AI Act: KI-Kompetenz-Pflicht aller Mitarbeiter gilt seit 02.02.2025 unverändert. Siehe Pillar-Page Art. 4.
Eine integrierte Compliance-Dokumentation (DSGVO-DSFA + NIS2-Risikomanagement + EU-AI-Act-Konformitätsbewertung) reduziert Aufwand um geschätzt 40 Prozent gegenüber Einzel-Dokumentation.
Konformität in 7 Schritten
- Einstufung prüfen: Anhang I oder Anhang III?
- Rolle klären: Anbieter oder Betreiber?
- Risikomanagement aufsetzen nach Art. 9.
- Daten-Governance nach Art. 10 einführen.
- Technische Doku nach Art. 11 erstellen.
- Menschliche Aufsicht nach Art. 14 sicherstellen.
- Konformitätsbewertung + CE-Kennzeichnung abschließen.
Häufige Fragen zu Hochrisiko-KI
Welche KI-Systeme gelten als Hochrisiko nach Anhang III?
Anhang III listet acht Bereiche: (1) Biometrie und Emotionserkennung, (2) Kritische Infrastruktur (Straßenverkehr, Strom, Wasser, Gas, Internet), (3) Allgemeine und berufliche Bildung (Bewertung von Lernergebnissen, Steuerung des Lernprozesses, Überwachung von Prüfungsbetrug), (4) Beschäftigung und Personalmanagement (Stellenanzeigen, Filterung von Bewerbungen, Bewertung von Mitarbeitern), (5) Zugang zu wesentlichen privaten und öffentlichen Diensten (Kreditscoring, Sozialhilfe-Vergabe, Notrufweiterleitung, Lebens- und Krankenversicherung), (6) Strafverfolgung, (7) Migration, Asyl und Grenzkontrolle, (8) Rechtspflege und demokratische Prozesse.
Ist mein KI-Bewerber-Tool wirklich Hochrisiko?
Ja, wenn es Bewerbungen filtert, Lebensläufe scort oder Kandidaten bewertet. Anhang III Nummer 4 nennt explizit "Veröffentlichung gezielter Stellenanzeigen, Analyse und Filterung von Bewerbungen sowie Bewertung von Bewerberinnen und Bewerbern". Auch wenn das Tool nur Empfehlungen gibt und ein Mensch entscheidet, ist es Hochrisiko - die Pflichten greifen für Anbieter (HRTech-Firma) und Betreiber (du als Arbeitgeber).
Wann genau gelten die Hochrisiko-Pflichten?
Ursprünglich war der 2. August 2026 vorgesehen. Nach der Trilog-Einigung vom 7. Mai 2026 sind die Pflichten verschoben: Anhang-III-Systeme (Biometrie, kritische Infrastruktur, Bildung, Beschäftigung, Migration, Asyl, Grenzkontrolle) gelten ab 2. Dezember 2027. Hochrisiko-KI, die in CE-pflichtige Produkte (Anhang I: Aufzüge, Spielzeug, Medizinprodukte) integriert ist, gilt ab 2. August 2028.
Was unterscheidet Anbieter und Betreiber?
Anbieter (Provider) entwickelt das KI-System oder bringt es unter eigenem Namen in Verkehr. Er trägt die Hauptlast: Konformitätsbewertung, technische Dokumentation, CE-Kennzeichnung, Eintragung in EU-Datenbank. Betreiber (Deployer) setzt fremdes System ein. Seine Pflichten: Anweisungen des Anbieters befolgen, menschliche Aufsicht sicherstellen, Ausgabe-Logs aufbewahren, Mitarbeiter schulen, bei Hochrisiko-Systemen in Anhang III auch DSFA durchführen.
Brauche ich für Hochrisiko-KI eine CE-Kennzeichnung?
Ja, wenn du Anbieter bist. Nach Art. 48 EU AI Act ist die CE-Kennzeichnung Pflicht und folgt einer erfolgreichen Konformitätsbewertung nach Art. 43. Bei den meisten Anhang-III-Systemen reicht interne Kontrolle (Modul A), bei biometrischer Fernidentifikation und kritischer Infrastruktur ist eine benannte Stelle (Modul H1) erforderlich.
Welche Strafen drohen bei Hochrisiko-KI-Verstößen?
Bis zu 15 Mio Euro oder 3 Prozent des weltweiten Jahresumsatzes - je nachdem, was höher ist (Art. 99 Abs. 4 EU AI Act). Bei Verstoß gegen Art. 5 (verbotene Praktiken) sogar bis zu 35 Mio Euro oder 7 Prozent. Bei kleinen Verstößen können Behörden auch geringere Bußgelder verhängen. Die nationale Aufsichtsbehörde in Deutschland ist die Bundesnetzagentur, bei Datenschutz-Aspekten zusätzlich die Landesdatenschutzbehörden.
Was muss ich JETZT tun, wenn die Pflichten erst 2027 greifen?
Drei Schritte schon jetzt machen: (1) Inventar aller eingesetzten KI-Systeme erstellen mit Risiko-Klassifizierung. (2) Vertraglich von KI-Anbietern Zusicherung der späteren Konformität verlangen - sonst drohen 2027 Vertragsstreitigkeiten. (3) Interne Prozesse aufbauen (Risikomanagement, Daten-Governance, menschliche Aufsicht) - das braucht Zeit und kann nicht in den letzten 3 Monaten vor 02.12.2027 nachgeholt werden.
Was passiert mit Hochrisiko-Systemen, die ich heute schon einsetze?
Übergangsregelung in Art. 111 EU AI Act: Systeme, die vor dem 02.08.2026 in Verkehr gebracht oder in Betrieb genommen wurden, müssen die Hochrisiko-Pflichten erst erfüllen, wenn sie wesentlich geändert werden. Aber: wenn du heute neu einsetzt, gilt das System als "in Betrieb genommen" und muss bis 02.12.2027 konform sein. Praktisch: vor dem 02.08.2026 anschaffen ist nicht mehr möglich, also alle laufenden Anschaffungen prüfen.
Wie verbindet sich Hochrisiko-KI mit DSGVO?
Hochrisiko-KI verarbeitet fast immer personenbezogene Daten (Bewerber, Kunden, Schüler). Damit gilt parallel die DSGVO. Wichtig: eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO ist bei Hochrisiko-KI-Systemen in der Regel zwingend. EDSA und BfDI empfehlen, DSFA und EU-AI-Act-Risikomanagement in einem integrierten Dokument zu führen.
Wo finde ich die offiziellen EU-Quellen?
Die EU-Kommission betreibt den AI Act Service Desk unter ai-act-service-desk.ec.europa.eu mit der vollständigen Anhang-III-Auflistung. Die EU-Datenbank für Hochrisiko-KI (nach Art. 71) wird bei Inkrafttreten am 02.12.2027 verfügbar sein. In Deutschland ist die Bundesnetzagentur die zuständige Marktüberwachungsbehörde. Auf nationaler Ebene berät auch das BSI zu Sicherheits-Aspekten.