Auf einen Blick: Bevor eine Hochrisiko-KI auf den Markt darf, durchläuft sie nach Art. 43 KI-VO eine Konformitätsbewertung, der Anbieter stellt eine EU-Konformitätserklärung aus (Art. 47 KI-VO) und bringt das CE-Zeichen an (Art. 48 KI-VO). Für die meisten Anhang-III-Systeme (Nummern 2 bis 8) reicht die interne Kontrolle nach Anhang VI ohne notifizierte Stelle. Nur bei Biometrie (Anhang III Nr. 1) kann eine externe Prüfung nötig werden.
Das CE-Zeichen kennt jeder von der Bohrmaschine und vom Spielzeug. Bei Künstlicher Intelligenz wirkt es im ersten Moment fremd, gehört aber zur selben Logik: Wer ein Hochrisiko-KI-System in der EU in Verkehr bringt, muss vorher belegen, dass es die gesetzlichen Anforderungen erfüllt, und das nach außen kenntlich machen. Drei Schritte stehen dafür im Gesetz, und sie hängen zusammen. Konformitätsbewertung, Konformitätserklärung, CE-Kennzeichnung. Für den Mittelstand ist die wichtigste Frage dabei meist nicht, wie man das macht, sondern ob man es überhaupt selbst machen muss.
Drei Schritte vor dem Marktzugang
Eine Hochrisiko-KI kommt nicht einfach in Betrieb. Die KI-Verordnung schaltet einen dreistufigen Prüf- und Nachweisprozess davor, den der Anbieter durchlaufen muss.
Schritt eins ist die Konformitätsbewertung nach Art. 43 KI-VO. Hier wird geprüft, ob das System die Anforderungen aus Abschnitt 2 der Verordnung erfüllt, also Risikomanagement, Daten-Governance, technische Dokumentation, Genauigkeit, Robustheit und menschliche Aufsicht. Das Ergebnis dieser Bewertung ist die Grundlage für alles Weitere.
Schritt zwei ist die EU-Konformitätserklärung nach Art. 47 KI-VO. Der Anbieter erklärt darin schriftlich, dass das System die Anforderungen erfüllt, und übernimmt damit die Verantwortung. Diese Erklärung ist ein formelles Dokument mit festem Inhalt nach Anhang V der Verordnung.
Schritt drei ist die CE-Kennzeichnung nach Art. 48 KI-VO. Erst wenn die ersten beiden Schritte erledigt sind, darf das CE-Zeichen angebracht werden. Es signalisiert dem Markt: dieses System wurde geprüft und erklärt sich konform.
Für die allermeisten KI-Systeme im Mittelstand ist die gute Nachricht, dass keine externe Behörde und keine notifizierte Stelle eingeschaltet werden muss. Die Bewertung läuft als interne Kontrolle. Der Anbieter prüft sich selbst, dokumentiert das und steht mit seiner Unterschrift dafür gerade.
Zwei Verfahren: interne Kontrolle oder notifizierte Stelle
Art. 43 KI-VO kennt zwei Wege durch die Konformitätsbewertung. Welcher gilt, hängt davon ab, in welchen Bereich von Anhang III die KI fällt.
Die interne Kontrolle nach Anhang VI ist die Selbstbewertung. Der Anbieter stützt sich auf sein Qualitätsmanagementsystem nach Art. 17 KI-VO und auf die technische Dokumentation nach Art. 11 KI-VO. Er prüft anhand dieser Unterlagen, ob alle Anforderungen erfüllt sind, und dokumentiert das Ergebnis. Keine fremde Prüfstelle ist beteiligt. Das ist der Standardweg.
Die Bewertung durch eine notifizierte Stelle nach Anhang VII ist die Drittprüfung. Eine unabhängige, staatlich notifizierte Konformitätsbewertungsstelle prüft das System und stellt eine Bescheinigung aus. Dieser Weg ist aufwendiger, teurer und langsamer. Er ist nur in einem einzigen Fall relevant.
| Anhang-III-Bereich | Beispiele | Verfahren |
|---|---|---|
| Nr. 1 Biometrie | Gesichtserkennung, biometrische Kategorisierung | Wahl: interne Kontrolle (Anhang VI) ODER notifizierte Stelle (Anhang VII) |
| Nr. 2 Kritische Infrastruktur | Steuerung Strom-, Wasser-, Verkehrsnetze | Interne Kontrolle (Anhang VI) |
| Nr. 3 Bildung | Prüfungsbewertung, Zugangsentscheidungen | Interne Kontrolle (Anhang VI) |
| Nr. 4 Beschäftigung | Bewerber-Scoring, Mitarbeiterbewertung | Interne Kontrolle (Anhang VI) |
| Nr. 5 Wesentliche Dienste | Kreditwürdigkeit, Versicherungs-Risikobewertung | Interne Kontrolle (Anhang VI) |
| Nr. 6 Strafverfolgung | Risikobewertung, Beweisauswertung | Interne Kontrolle (Anhang VI) |
| Nr. 7 Migration und Asyl | Antragsprüfung, Grenzkontrolle | Interne Kontrolle (Anhang VI) |
| Nr. 8 Rechtspflege | Unterstützung von Gerichtsentscheidungen | Interne Kontrolle (Anhang VI) |
Die Tabelle zeigt das Muster deutlich. Für die Bereiche, die KMU am häufigsten betreffen, also Beschäftigung (Nr. 4) und wesentliche Dienste wie Kreditwürdigkeit (Nr. 5), gilt durchweg die interne Kontrolle. Eine notifizierte Stelle kommt dort gar nicht ins Spiel.
Nur bei Biometrie-Systemen nach Anhang III Nr. 1 hat der Anbieter eine Wahl. Er darf den internen Weg gehen, sofern er die harmonisierten Normen oder gemeinsamen Spezifikationen vollständig anwendet. Tut er das nicht oder gibt es noch keine, muss er die notifizierte Stelle einschalten. Wer also keine Gesichtserkennung baut, wird sich mit notifizierten Stellen nach der KI-Verordnung in der Regel nicht beschäftigen müssen.
Was die interne Kontrolle nach Anhang VI verlangt
Selbstbewertung klingt nach wenig Aufwand. Das täuscht. Die interne Kontrolle setzt voraus, dass zwei tragende Bauteile vorhanden und funktionsfähig sind.
Das erste ist das Qualitätsmanagementsystem nach Art. 17 KI-VO. Der Anbieter muss schriftlich festlegen, wie er die Konformität sicherstellt: Strategie, Entwicklungsprozesse, Test- und Validierungsverfahren, Daten-Governance, Risikomanagement, Aufzeichnungspflichten, Verantwortlichkeiten. Ein QMS ist nicht der DIN-Ordner im Regal, sondern ein gelebtes System, das beschreibt, wie das Unternehmen konforme KI baut und hält.
Das zweite ist die technische Dokumentation nach Art. 11 KI-VO mit den Inhalten aus Anhang IV. Sie beschreibt das System im Detail: Zweckbestimmung, Architektur, Trainings- und Testdaten, Leistungskennzahlen, das Risikomanagementsystem nach Art. 9 KI-VO und die angewandten Normen. KMU dürfen diese Dokumentation in vereinfachter Form bereitstellen, was die EU-Kommission über ein eigenes Formular ermöglicht.
Bei der internen Kontrolle prüft der Anbieter anhand dieser beiden Unterlagen selbst, ob alle Anforderungen erfüllt sind. Er stellt fest, dass das QMS den Vorgaben entspricht, und dass die technische Dokumentation belegt, dass das System konform ist. Das Ergebnis dokumentiert er. Damit ist Schritt eins abgeschlossen, ohne dass jemand von außen das System angesehen hätte.
Genau hier liegt die Verantwortung. Bei der internen Kontrolle gibt es keinen externen Prüfer, der einen Fehler abfängt. Wer schlampig dokumentiert oder Anforderungen übersieht, fällt damit erst bei einer späteren Marktüberwachungsprüfung auf, und dann ist das System schon im Markt.
Die EU-Konformitätserklärung nach Art. 47 KI-VO
Hat das System die Bewertung bestanden, stellt der Anbieter die EU-Konformitätserklärung aus. Sie ist ein eigenständiges, formelles Dokument und kein Marketing-Text.
Die Erklärung wird schriftlich und maschinenlesbar erstellt. Ihr Inhalt richtet sich nach Anhang V KI-VO: die Bezeichnung des Systems, der Name und die Anschrift des Anbieters, die Erklärung, dass das System die Anforderungen der KI-Verordnung erfüllt, ein Verweis auf die angewandten Normen sowie auf eventuell beteiligte notifizierte Stellen, Datum und Unterschrift. Wenn das System auch unter andere EU-Rechtsakte fällt, deckt die Erklärung alle anwendbaren Vorgaben ab.
Mit der Unterschrift unter die Konformitätserklärung übernimmt der Anbieter die volle Verantwortung für die Konformität des Systems. Das ist keine Floskel. Stellt sich später heraus, dass die Erklärung falsch war, ist das ein Anknüpfungspunkt für Bußgelder und Haftung.
Die Erklärung muss zehn Jahre nach dem Inverkehrbringen oder der Inbetriebnahme für die nationalen Behörden vorgehalten werden. Diese lange Frist deckt sich mit der Aufbewahrungspflicht für die technische Dokumentation nach Art. 18 KI-VO. Wer ein Hochrisiko-System anbietet, baut also ein Archiv auf, das über ein Jahrzehnt Bestand haben muss.
Die CE-Kennzeichnung nach Art. 48 KI-VO
Erst nach Konformitätsbewertung und Konformitätserklärung darf das CE-Zeichen ans System. Es ist der sichtbare Abschluss des Prozesses.
Bei physischen Produkten wird das CE-Zeichen sichtbar, lesbar und dauerhaft angebracht. Bei einer KI ist das System aber oft rein digital, ohne Gehäuse, auf das man ein Schild kleben könnte. Für diesen Fall sieht Art. 48 KI-VO das digitale CE-Zeichen vor: es wird leicht zugänglich über die Schnittstelle oder einen maschinenlesbaren Code bereitgestellt, etwa in der Software-Oberfläche, in der Dokumentation oder über einen QR-ähnlichen Zugang.
Wenn eine notifizierte Stelle an der Bewertung beteiligt war, also im Biometrie-Fall, wird deren Kennnummer dem CE-Zeichen hinzugefügt. Bei der internen Kontrolle steht das CE-Zeichen allein, ohne Kennnummer.
Das CE-Zeichen ist kein Qualitätssiegel im Sinne eines Tests, sondern eine Selbsterklärung des Anbieters: dieses System durchlief das vorgeschriebene Verfahren und erfüllt nach Einschätzung des Anbieters die Anforderungen. Genau deshalb ist die Versuchung groß, es als Formalität zu behandeln. Das ist ein Irrtum, auf den ich gleich zurückkomme.
Die wichtigste Klarstellung für KMU: Anbieter oder Betreiber
Für den Mittelstand entscheidet eine einzige Frage darüber, wie viel von diesem Kapitel überhaupt relevant ist. Bist du Anbieter oder Betreiber der Hochrisiko-KI?
Anbieter (in der Verordnung Provider) ist, wer das System entwickelt oder unter eigenem Namen oder eigener Marke in Verkehr bringt. Der Anbieter macht den ganzen Prozess: Konformitätsbewertung, Konformitätserklärung, CE-Kennzeichnung. Auf ihn zielen Art. 43, 47 und 48 KI-VO.
Betreiber (Deployer) ist, wer ein fertiges KI-Produkt in seinem Unternehmen einsetzt. Die große Mehrheit der KMU fällt in diese Gruppe. Wer ein Recruiting-Tool eines Drittanbieters nutzt oder ein Kreditscoring-Modul von einem Software-Haus einkauft, ist Betreiber. Der Betreiber führt weder eine Konformitätsbewertung durch noch bringt er ein CE-Zeichen an. Seine Aufgabe ist eine andere: Er prüft, ob das eingekaufte System das CE-Zeichen trägt, und ob eine EU-Konformitätserklärung dazu existiert. Das ist Teil seiner Betreiberpflichten nach Art. 26 KI-VO.
Konkret heißt das: Wer als Mittelständler eine Hochrisiko-KI nur einsetzt, muss vor dem Einkauf nachweisen lassen, dass das System CE-gekennzeichnet ist und eine Konformitätserklärung vorliegt. Fehlt das Zeichen, darf das System nicht eingesetzt werden. Mehr ist auf dieser Ebene nicht zu tun, abgesehen von den weiteren Betreiberpflichten wie menschlicher Aufsicht und Logging.
Es gibt aber eine Falltür. Nach Art. 25 KI-VO wird ein Betreiber selbst zum Anbieter, wenn er eine Hochrisiko-KI unter eigenem Namen oder eigener Marke vertreibt oder sie wesentlich verändert. Wer ein zugekauftes System white-labelt und unter eigenem Logo weitergibt, oder wer den Zweck eines Systems so umbaut, dass es zu einem neuen Hochrisiko-System wird, rutscht in die Anbieterrolle und damit in den vollen Pflichtenkatalog inklusive CE-Kennzeichnung.
Praxis: das HR-Tech-Startup Talentschmiede aus Augsburg
Ein konkretes Beispiel macht die Grenze greifbar. Die Talentschmiede GmbH ist ein junges HR-Tech-Unternehmen aus Augsburg mit 22 Mitarbeitern. Das Team hat ein eigenes Bewerber-Scoring-Modell entwickelt, das aus Bewerbungsunterlagen eine Eignungs-Rangfolge erstellt, und verkauft es als Software unter eigener Marke an Personalabteilungen mittelständischer Unternehmen.
Damit ist die Talentschmiede eindeutig Anbieter. Das System fällt unter Anhang III Nr. 4 KI-VO (Beschäftigung), weil es Personen für die Personalauswahl bewertet. Es betreibt zudem Profiling, also bleibt es selbst dann hochriskant, wenn man über die Ausnahme nach Art. 6 Abs. 3 KI-VO nachdächte. Der volle Pflichtenkatalog greift.
Die Geschäftsführung plant zunächst, das CE-Zeichen einfach in die Software einzubauen, weil es technisch in einer Stunde erledigt wäre. Bei der Vorbereitung wird klar, dass das den Prozess auf den Kopf stellt. Das CE-Zeichen darf erst ganz am Ende kommen.
Talentschmiede arbeitet die Schritte in der richtigen Reihenfolge ab. Sie baut ein Qualitätsmanagementsystem nach Art. 17 KI-VO auf, das ihre Entwicklungs- und Testprozesse beschreibt. Sie erstellt die technische Dokumentation nach Anhang IV, nutzt dafür wegen ihrer Größe das vereinfachte KMU-Formular der EU-Kommission, deckt aber alle Bereiche ab. Weil das System unter Anhang III Nr. 4 fällt (Beschäftigung, nicht Biometrie), gilt die interne Kontrolle nach Anhang VI. Eine notifizierte Stelle ist nicht beteiligt, was Zeit und Kosten spart.
Nach der internen Bewertung stellt die Talentschmiede die EU-Konformitätserklärung nach Anhang V aus, unterschreibt sie und archiviert sie für zehn Jahre zusammen mit der technischen Dokumentation. Erst dann bringt sie das digitale CE-Zeichen in der Software-Oberfläche an, ohne Kennnummer, weil keine notifizierte Stelle mitwirkte.
Die Kunden der Talentschmiede, also die Personalabteilungen, sind ihrerseits nur Betreiber. Sie müssen lediglich prüfen, ob das eingekaufte Tool das CE-Zeichen trägt und ob die Konformitätserklärung vorliegt. Den ganzen Bewertungsprozess hat die Talentschmiede als Anbieter geleistet. Genau so funktioniert die Arbeitsteilung der Verordnung.
Der teure Irrtum: CE als Formsache
In der Praxis sehen wir bei Software-Häusern und KI-Startups regelmäßig dieselbe Fehleinschätzung. Das CE-Zeichen wird als letzter Haken auf der Launch-Checkliste gesehen, als Branding-Element, das man kurz vor dem Release einbaut. Diese Sichtweise dreht die Logik der Verordnung um.
Das CE-Zeichen ist nicht der Anfang, sondern das Ende eines Prozesses. Es darf nur angebracht werden, wenn Konformitätsbewertung und Konformitätserklärung schon vorliegen, und diese setzen ein funktionierendes Qualitätsmanagementsystem und eine vollständige technische Dokumentation voraus. Wer das CE-Zeichen anbringt, ohne diese Unterbauten geschaffen zu haben, gibt eine falsche Konformitätserklärung ab. Das ist nach Art. 99 KI-VO bußgeldbewehrt, mit einem Rahmen von bis zu 15 Mio Euro oder 3 Prozent des weltweiten Jahresumsatzes bei Verstößen gegen die Hochrisiko-Pflichten. Wer das CE als Formsache behandelt, baut sich genau dort die teuerste Lücke ein, wo sie eine Behörde am leichtesten findet.
Wer den Prozess umgekehrt versteht, also QMS und Dokumentation zuerst und das CE-Zeichen zuletzt, hat am Ende nicht nur ein konformes System, sondern auch die Belege dafür griffbereit. Diese Belege sind im Marktüberwachungsverfahren der Unterschied zwischen einer schnellen Auskunft und einem teuren Stillstand.
Ein Hinweis zur Zeitachse. Die Hochrisiko-Pflichten nach Anhang III KI-VO wurden durch das Omnibus-Paket nach dem Trilog vom 07.05.2026 auf den 02.12.2027 verschoben. Wer ein Hochrisiko-System anbietet, hat damit Luft. Aber der Aufbau eines QMS und einer belastbaren technischen Dokumentation dauert Monate, nicht Tage. Die Verschiebung ist kein Grund zum Abwarten, sondern die letzte ruhige Phase, um es ordentlich aufzusetzen.
Damit ein KMU diese Unterlagen überhaupt lesen, bewerten und im Einkauf einfordern kann, braucht das Team Kompetenz. Genau das verlangt die KI-Kompetenzpflicht nach Art. 4 KI-VO, die seit dem 02.02.2025 ohne Übergangsfrist gilt. Wer keine Person im Haus hat, die ein CE-Zeichen, eine Konformitätserklärung und ein Anhang-IV-Dossier einordnen kann, kauft im Blindflug ein.
Häufige Fragen
Brauche ich als Betreiber selbst ein CE-Zeichen?
Nein. Als Betreiber einer Hochrisiko-KI setzt du ein fertiges System ein und musst weder eine Konformitätsbewertung noch eine CE-Kennzeichnung selbst durchführen. Deine Aufgabe nach Art. 26 KI-VO ist, vor dem Einkauf zu prüfen, ob das System das CE-Zeichen trägt und eine EU-Konformitätserklärung vorliegt. Fehlt das, darfst du das System nicht einsetzen. Erst wenn du ein System unter eigenem Namen vertreibst oder wesentlich veränderst, wirst du nach Art. 25 KI-VO selbst zum Anbieter und musst den ganzen Prozess durchlaufen.
Wann ist eine notifizierte Stelle nötig?
Eine notifizierte Stelle (Drittprüfung nach Anhang VII) ist nur bei Biometrie-Systemen nach Anhang III Nr. 1 KI-VO relevant, und auch dort hat der Anbieter eine Wahl. Wendet er die harmonisierten Normen oder gemeinsamen Spezifikationen vollständig an, darf er die interne Kontrolle nach Anhang VI nutzen. Für alle anderen Hochrisiko-Bereiche nach Anhang III (Nummern 2 bis 8), also Beschäftigung, Kreditwürdigkeit, Bildung und so weiter, gilt durchweg die interne Kontrolle ohne notifizierte Stelle.
Was kostet die Konformitätsbewertung?
Bei der internen Kontrolle entstehen keine externen Prüfgebühren, weil keine notifizierte Stelle beteiligt ist. Die Kosten liegen im internen Aufwand: Aufbau des Qualitätsmanagementsystems nach Art. 17 KI-VO, Erstellung der technischen Dokumentation nach Anhang IV und der Konformitätserklärung. Dieser Aufwand hängt stark von der Komplexität des Systems und der vorhandenen Dokumentationsreife ab. Nur im Biometrie-Fall mit notifizierter Stelle kommen externe Prüfgebühren hinzu, die deutlich höher ausfallen.
Ab wann gelten diese Pflichten?
Die Hochrisiko-Pflichten nach Anhang III KI-VO wurden durch das Omnibus-Paket nach dem Trilog vom 07.05.2026 auf den 02.12.2027 verschoben. Anhang-I-Pflichten (Produktsicherheit) greifen ab 02.08.2028. Wer heute schon ein Hochrisiko-System anbietet oder entwickelt, sollte Konformitätsbewertung und Dokumentation aber jetzt aufbauen, weil ein belastbares Qualitätsmanagementsystem und eine vollständige technische Dokumentation Monate Vorlauf brauchen. Die KI-Kompetenzpflicht nach Art. 4 KI-VO gilt davon unabhängig bereits seit dem 02.02.2025.
Über den Autor
Dr. Jens Aichinger ist promovierter Wirtschaftspädagoge und Inhaber von SkillSprinters, einem DEKRA-zertifizierten Bildungsträger. Er entwickelt seit 2024 KI-gestützte Weiterbildungs- und Prozessautomatisierungslösungen für den Mittelstand. Über Skill-Sprinters läuft auch der Digitalisierungsmanager, eine 4-monatige geförderte Weiterbildung.
30 Minuten Klarheit kosten nichts. Wenn Du KI im Betrieb einsetzt oder überlegst einzusetzen, kommt es nicht auf das Tool an. Es kommt auf die Frage: wo entstehen Risiken, wo Hebel? In 30 Minuten gehen wir Deine konkrete Lage durch und Du weißt, wo Du anfangen solltest. Termin reservieren oder kostenlosen KI-Schnupperkurs starten.
Zuletzt geprüft am 28. Mai 2026.
Bereit für deinen nächsten Karriereschritt?
Lass dich kostenlos beraten. Wir finden die passende Weiterbildung und Förderung für dich.