Art. 9 KI-VO 2026: Das Risikomanagementsystem für Hochrisiko-KI im Mittelstand

Auf einen Blick: Art. 9 KI-VO verlangt für jede Hochrisiko-KI ein dokumentiertes Risikomanagementsystem, das über den gesamten Lebenszyklus läuft. Vier Schritte: Risiken identifizieren, bewerten, mindern, Restrisiko dokumentieren. Es ist ein fortlaufender Prozess, kein einmaliger Akt. Pflicht ist primär der Anbieter, der Betreiber zieht über Art. 26 KI-VO mit.

Risikomanagement klingt nach einem Ordner, den man einmal anlegt und dann in den Schrank stellt. Genau so ist Art. 9 KI-VO nicht gemeint. Die Vorschrift fordert ein System, das mitläuft, solange eine Hochrisiko-KI im Einsatz ist. Es wird angelegt, angewandt, dokumentiert und immer wieder überprüft. Für Anbieter ist das eine Pflicht mit klaren Konsequenzen. Für Mittelständler, die so ein System einkaufen und betreiben, ist es eine Frage, die sie spätestens beim ersten Audit beantworten müssen: Wo ist euer Risikomanagement, und wann habt ihr es zuletzt aktualisiert?

Was Art. 9 KI-VO konkret verlangt

Der Artikel adressiert in erster Linie den Anbieter eines Hochrisiko-KI-Systems. Also denjenigen, der das System entwickelt, in Verkehr bringt oder unter eigenem Namen vertreibt. Er muss ein Risikomanagementsystem einrichten, anwenden, dokumentieren und aufrechterhalten. Vier Verben, die zusammen einen Lebenszyklus beschreiben.

Im Kern verlangt Art. 9 KI-VO vier wiederkehrende Schritte. Zuerst werden die bekannten und vorhersehbaren Risiken identifiziert, die das System für Gesundheit, Sicherheit oder Grundrechte mit sich bringen kann. Dann werden diese Risiken bewertet, sowohl im bestimmungsgemäßen Gebrauch als auch unter vernünftigerweise vorhersehbarem Fehlgebrauch. Im dritten Schritt werden geeignete Maßnahmen ergriffen, um die Risiken zu mindern. Und schließlich werden die verbleibenden Restrisiken dokumentiert und gegenüber dem Betreiber kommuniziert, damit dieser weiß, womit er es zu tun hat.

Dieser Vierschritt ist kein Projekt mit Anfang und Ende. Die Verordnung spricht ausdrücklich von einem kontinuierlichen iterativen Prozess. Das System wird regelmäßig systematisch überprüft und aktualisiert, immer dann, wenn neue Erkenntnisse auftauchen, das Modell verändert wird oder im laufenden Betrieb Risiken sichtbar werden, die vorher nicht auf dem Radar waren.

Ein Punkt, den viele übersehen, steht ebenfalls im Artikel. Wenn ein Hochrisiko-System Auswirkungen auf Personen unter 18 Jahren oder andere schutzbedürftige Gruppen haben kann, müssen diese Auswirkungen besonders berücksichtigt werden. Das ist kein Nebensatz, sondern ein eigener Prüfauftrag. Ein KI-gestütztes Bewertungssystem in der beruflichen Bildung etwa, das auch Jugendliche erfasst, muss diese Gruppe gesondert in die Risikobewertung aufnehmen.

Testpflicht und der Bezug zu Art. 60 KI-VO

Risiken erkennt man nicht durch Nachdenken am Schreibtisch allein. Art. 9 KI-VO verlangt deshalb, dass Hochrisiko-KI getestet wird, um die am besten geeigneten und gezielten Risikomanagement-Maßnahmen zu ermitteln. Getestet wird gegen vorab definierte Metriken und Schwellenwerte, die zum Einsatzzweck passen.

Diese Tests können in vielen Fällen unter Laborbedingungen ablaufen. In bestimmten Konstellationen sind aber Tests unter Realbedingungen nötig, und genau dafür gibt es Art. 60 KI-VO. Er regelt, wie ein Anbieter ein noch nicht vollständig konformes Hochrisiko-System unter echten Einsatzbedingungen erproben darf, bevor es in Verkehr kommt. Solche Realtests sind an Bedingungen geknüpft: einen Testplan, Genehmigungen, Schutz der betroffenen Personen, Begrenzung der Dauer.

Für die meisten Mittelständler, die ein System nur einkaufen, ist Art. 60 KI-VO selten relevant. Wichtig ist die Schlussfolgerung daraus. Wer ein Hochrisiko-System anbietet, muss belegen können, dass er es ernsthaft getestet hat, und zwar gegen die Risiken, die in der Bewertung aufgetaucht sind. Ein Anbieter, der auf die Frage nach Testergebnissen nur ausweichend antwortet, hat seine Pflicht aus Art. 9 KI-VO nicht erfüllt.

Anbieter oder Betreiber: wer das System führt

Die zentrale Frage für jeden Mittelständler lautet: Bin ich Anbieter oder Betreiber? Die Antwort entscheidet, ob Art. 9 KI-VO direkt greift oder nur indirekt über die Hintertür.

Anbieter, in der Verordnung Provider, ist, wer ein KI-System entwickelt oder unter eigenem Namen in Verkehr bringt. Diesen trifft Art. 9 KI-VO unmittelbar. Er führt das Risikomanagementsystem, er dokumentiert es, er hält es aktuell.

Betreiber, in der Verordnung Deployer, ist, wer eine fremde KI in seinem Unternehmen einsetzt. Das trifft auf die große Mehrheit zu. Der Betreiber führt kein eigenes Risikomanagementsystem nach Art. 9 KI-VO. Aber er ist nicht aus der Verantwortung. Art. 26 KI-VO verpflichtet ihn, das System nach der Bedienungsanleitung zu verwenden, die menschliche Aufsicht sicherzustellen und die vom Anbieter beschriebenen Risikomanagement-Maßnahmen tatsächlich umzusetzen.

Praktisch heißt das: Die Restrisiken, die der Anbieter nach Art. 9 KI-VO dokumentiert und kommuniziert hat, landen in der Bedienungsanleitung des Betreibers. Wer ein Hochrisiko-System einsetzt, ohne diese Restrisiko-Beschreibung gelesen und in eigene Arbeitsanweisungen übersetzt zu haben, hat seine Hausaufgaben nach Art. 26 KI-VO nicht gemacht. Der Anbieter trägt das System, der Betreiber trägt den Einsatz.

Verhältnis zu Art. 12 und Art. 15 KI-VO

Art. 9 KI-VO steht nicht allein. Es ist der Kopf einer Familie technischer Anforderungen, die ineinandergreifen.

Die Aufzeichnungspflichten nach Art. 12 KI-VO liefern dem Risikomanagement die Daten. Ohne automatisches Logging weiß niemand, ob ein im Risikomanagement identifiziertes Risiko im realen Betrieb tatsächlich auftritt. Die Logs sind das Sensorsystem, das den iterativen Prozess speist. Ein Risiko, das man nicht messen kann, kann man auch nicht steuern.

Genauigkeit, Robustheit und Cybersicherheit nach Art. 15 KI-VO sind wiederum konkrete Minderungsmaßnahmen, die das Risikomanagement ergreift. Wer im Risikomanagement das Risiko einer Fehlklassifikation erkennt, mindert es über Genauigkeitsmetriken und Validierung. Wer das Risiko eines Cyberangriffs sieht, mindert es über die Cybersicherheits-Anforderungen aus Art. 15 KI-VO. Das Risikomanagement plant, die anderen Artikel liefern die Werkzeuge.

In dieser Sicht ist Art. 9 KI-VO der Bauplan, Art. 12 ist das Messinstrument und Art. 15 ist der Werkzeugkasten. Wer eines davon übergeht, hat die anderen beiden geschwächt.

Praxis: HanseScore Personaldienste in Hamburg

Ein Beispiel aus dem Beratungsalltag. HanseScore Personaldienste ist eine Personalvermittlung mit 95 Mitarbeitern in Hamburg. Das Unternehmen entwickelt seit 2025 ein eigenes KI-gestütztes Bewerber-Scoring, das Lebensläufe vorsortiert und einen Eignungswert ausgibt. Weil das System unter eigenem Namen an Kundenfirmen lizenziert werden soll, ist HanseScore nicht Betreiber, sondern Anbieter. Bewerber-Scoring fällt unter Anhang III KI-VO als Hochrisiko-Anwendung im Bereich Beschäftigung.

Damit greift Art. 9 KI-VO voll. Die Geschäftsführung unterschätzt das Thema zunächst und denkt an eine einmalige Dokumentation. Bei der Beratung wird klar, dass ein iterativer Prozess nötig ist. HanseScore identifiziert drei zentrale Risiken: eine systematische Benachteiligung von Bewerbern mit Lücken im Lebenslauf, eine mögliche Verzerrung gegen ältere Bewerber und eine Fehlgewichtung bei Quereinsteigern.

Für jedes Risiko wird eine Minderungsmaßnahme festgelegt. Die Lückenproblematik wird über eine angepasste Gewichtung entschärft, die Altersverzerrung über das Entfernen altersbezogener Merkmale aus dem Modell, die Quereinsteiger-Frage über eine separate Bewertungslinie. Die verbleibenden Restrisiken werden dokumentiert und in die Bedienungsanleitung für die Kundenfirmen geschrieben, samt der klaren Ansage: Eine menschliche Endentscheidung ist Pflicht, der Score ist eine Vorsortierung, kein Urteil.

HanseScore testet das System gegen einen anonymisierten historischen Datensatz und misst die Trefferquote getrennt nach Altersgruppen. Der Prozess wird halbjährlich wiederholt, jede Modell-Aktualisierung löst eine erneute Risikobewertung aus. Das ist genau das, was Art. 9 KI-VO unter einem kontinuierlichen iterativen Prozess versteht.

Schritt für Schritt: Risikomanagementsystem im KMU aufsetzen

Wer als Anbieter ein Risikomanagementsystem nach Art. 9 KI-VO aufbauen muss, kann sich an etablierten Rahmenwerken orientieren. ISO 31000 ist der internationale Standard für Risikomanagement allgemein und liefert die Struktur. Wer ein KI-Managementsystem nach ISO/IEC 42001:2023 aufbaut, hat das Risikomanagement bereits als Baustein darin integriert. Beides ist freiwillig, beides erleichtert den Nachweis.

In der Praxis lohnt es sich, einen Verantwortlichen zu benennen, etwa einen KI-Beauftragten oder den Datenschutzbeauftragten in Doppelrolle. Dieser hält das Risikoregister gepflegt, plant die halbjährliche Überprüfung und sorgt dafür, dass jede Modell-Änderung eine erneute Bewertung auslöst. Ein einfaches Risikoregister lässt sich als Tabelle starten. Ein dediziertes Tool wird erst nötig, wenn viele Hochrisiko-Systeme parallel laufen.

Wer das alles ohne Kompetenz im Team angeht, baut ein Papierkonstrukt. Die KI-Kompetenzpflicht nach Art. 4 KI-VO ist deshalb der unsichtbare Unterbau. Sie verlangt seit 02.02.2025, dass die Personen, die mit KI-Systemen arbeiten, ausreichende Kenntnisse haben. Wer ein Risikomanagementsystem führen soll, muss verstehen, was ein Restrisiko ist, wie man Bias misst und wann ein Test aussagekräftig ist.

Was bei einem Verstoß droht und wann die Frist greift

Ein Verstoß gegen Art. 9 KI-VO kann Bußgelder nach Art. 99 KI-VO nach sich ziehen. Für Verletzungen der Hochrisiko-Pflichten liegt der Rahmen bei bis zu 15 Mio Euro oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Wert höher ist. Dazu kann die Marktüberwachungsbehörde nach Art. 79 KI-VO die Inbetriebnahme untersagen, wenn ein System die grundlegenden Anforderungen nicht erfüllt.

Zur Zeitachse. Die Hochrisiko-Pflichten nach Anhang III KI-VO wurden nach dem Trilog vom 07.05.2026 auf den 02.12.2027 verschoben. Wer das als Aufschub liest, denkt zu kurz. Ein iterativer Risikomanagementprozess wächst nicht über Nacht. Identifikation, Bewertung, Tests, Dokumentation, das sind Projekte mit mehreren Monaten Vorlauf. Wer im Herbst 2027 anfängt, hat keine Historie vorzuweisen, und Historie ist genau das, was ein iterativer Prozess belegen soll.

Wir sehen in der Praxis regelmäßig, dass das Risikomanagement als bürokratische Pflichtübung abgetan wird, bis es im Schadensfall plötzlich die entscheidende Frage wird: Konntet ihr das Risiko erkennen, und habt ihr es gemindert? Wer dann ein gepflegtes Risikoregister vorlegt, steht auf festem Boden. Wer nur ein leeres Formular hat, steht ohne Schutz da. Die Kompetenzpflicht nach Art. 4 KI-VO gilt davon unberührt seit 02.02.2025 und kennt keine Verschiebung.

Häufige Fragen

Muss unser KMU ein Risikomanagementsystem nach Art. 9 KI-VO führen, wenn wir nur fremde KI einsetzen?

Nein, wenn ihr reiner Betreiber seid. Art. 9 KI-VO trifft den Anbieter, der das System entwickelt oder unter eigenem Namen vertreibt. Als Betreiber einer fremden Hochrisiko-KI führt ihr kein eigenes System nach Art. 9, müsst aber nach Art. 26 KI-VO die vom Anbieter dokumentierten Risikomanagement-Maßnahmen und Restrisiken umsetzen. Das heißt: Bedienungsanleitung lesen, menschliche Aufsicht sicherstellen, die Restrisiko-Hinweise in eigene Arbeitsanweisungen übersetzen.

Reicht eine einmalige Risikobewertung aus?

Nein. Art. 9 KI-VO spricht ausdrücklich von einem kontinuierlichen iterativen Prozess über den gesamten Lebenszyklus. Die Risikobewertung muss regelmäßig systematisch überprüft und aktualisiert werden, vor allem nach jeder Modell-Änderung oder wenn im Betrieb neue Risiken sichtbar werden. Ein Dokument, das einmal erstellt und dann archiviert wird, erfüllt die Pflicht nicht.

Können wir ISO 31000 oder ISO/IEC 42001 als Rahmen nutzen?

Ja, beide eignen sich als Grundlage. ISO 31000 ist der internationale Standard für Risikomanagement allgemein und liefert die Methodik. ISO/IEC 42001:2023 ist die Norm für KI-Managementsysteme und enthält das Risikomanagement bereits als integrierten Baustein. Eine Zertifizierung ist nicht vorgeschrieben, erleichtert aber den Nachweis gegenüber einer Marktüberwachungsbehörde erheblich.

Wann greift Art. 9 KI-VO für Hochrisiko-Systeme?

Die Hochrisiko-Pflichten nach Anhang III KI-VO wurden durch das Omnibus-Paket nach dem Trilog vom 07.05.2026 auf den 02.12.2027 verschoben. Anhang-I-Pflichten greifen ab 02.08.2028. Wer aber heute schon ein Hochrisiko-System entwickelt oder einsetzt, sollte den Prozess jetzt aufbauen, weil ein iterativer Risikomanagementprozess Historie braucht und mehrere Monate Vorlauf benötigt. Die Kompetenzpflicht nach Art. 4 KI-VO gilt unverändert seit 02.02.2025.

Über den Autor

Dr. Jens Aichinger ist promovierter Wirtschaftspädagoge und Inhaber von SkillSprinters, einem DEKRA-zertifizierten Bildungsträger. Er entwickelt seit 2024 KI-gestützte Weiterbildungs- und Prozessautomatisierungslösungen für den Mittelstand. Über Skill-Sprinters läuft auch der Digitalisierungsmanager, eine 4-monatige geförderte Weiterbildung.

30 Minuten Klarheit kosten nichts. Wenn Du KI im Betrieb einsetzt oder überlegst einzusetzen, kommt es nicht auf das Tool an. Es kommt auf die Frage: wo entstehen Risiken, wo Hebel? In 30 Minuten gehen wir Deine konkrete Lage durch und Du weißt, wo Du anfangen solltest. Termin reservieren oder kostenlosen KI-Schnupperkurs starten.

Zuletzt geprüft am 27. Mai 2026.