Art. 26 KI-VO 2026: Die Pflichten der Betreiber von Hochrisiko-KI

Wenn Sie in Ihrem Unternehmen ein KI-System einsetzen, das Sie nicht selbst entwickelt haben, sind Sie nach den Vorgaben zu "Art 26 KI-VO Betreiber Pflichten" mit großer Wahrscheinlichkeit der Adressat. Sie haben das System nicht gebaut. Sie haben es eingekauft, lizenziert oder als SaaS abonniert. Trotzdem rechnet Ihnen die Verordnung Verantwortung zu, sobald das System in die Kategorie Hochrisiko fällt. Die Pflichten aus Art. 26 KI-VO sind operativ, sie betreffen Ihren Alltag, Ihre Schulungsprozesse und Ihre Dokumentation. Sie greifen unabhängig davon, ob der Anbieter aus Kalifornien, Paris oder Hamburg kommt.

Auf einen Blick: Art. 26 EU AI Act regelt die Pflichten des Betreibers einer Hochrisiko-KI. Der Betreiber muss die Gebrauchsanweisung des Anbieters einhalten, menschliche Aufsicht durch geschultes Personal sicherstellen, Eingabedaten relevant halten, Logs aufbewahren, die Arbeitnehmervertretung informieren, eine Datenschutz-Folgenabschätzung prüfen und Betroffene über den Einsatz informieren. Die Hochrisiko-Pflichten wurden per Omnibus-Trilog vom 07.05.2026 auf den 02.12.2027 verschoben.

Wer Betreiber im Sinne der KI-VO ist

Die Verordnung trennt streng zwischen Anbieter und Betreiber. Beide Rollen sind in Art. 3 KI-VO Begriffsbestimmungen definiert, und die Unterscheidung entscheidet darüber, welcher Pflichtenkatalog Sie trifft.

Anbieter im Sinne von Art. 3 Nr. 3 ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt. Betreiber im Sinne von Art. 3 Nr. 4 ist dagegen jede natürliche oder juristische Person, die ein KI-System in eigener Verantwortung im Rahmen einer beruflichen Tätigkeit nutzt. Die rein private Nutzung im Haushalt ist ausgenommen.

Die meisten Unternehmen in Deutschland sind Betreiber. Sie lizenzieren Modelle bei OpenAI, Anthropic, Microsoft oder Aleph Alpha. Sie kaufen Software, in der diese Modelle eingebettet sind. Sie nutzen SaaS-Werkzeuge für Recruiting, Kreditprüfung oder medizinische Diagnostik. In all diesen Fällen ist Ihr Unternehmen Betreiber. Der Hersteller des Modells und der Anbieter der eingebetteten Lösung sind Anbieter. Die Pflichten verteilen sich entsprechend.

Wichtig: Nicht jeder Betreiber unterliegt den Pflichten aus Art. 26. Diese gelten nur, wenn das eingesetzte System ein Hochrisiko-System ist. Welche Systeme das sind, ergibt sich aus Anhang III der Verordnung. Dort genannt sind unter anderem Personalauswahl, biometrische Identifizierung, Kreditprüfung, kritische Infrastruktur, Bildungsbewertung und bestimmte behördliche Anwendungen.

Die zehn Pflichten aus Art. 26 im Überblick

Art. 26 enthält einen umfangreichen Katalog. Die folgende Tabelle ordnet die einzelnen Absätze, beschreibt die Pflicht und nennt die konkrete Umsetzung.

Bemerkenswert ist die Breite. Art. 26 ist kein einzelner Pflichtenkanon, sondern ein Verbund aus technischen, organisatorischen und kommunikativen Aufgaben. Sie können die einzelnen Absätze nicht voneinander trennen, und Sie können sie nicht in eine einzelne Abteilung delegieren. Compliance, IT, HR und Datenschutz müssen abgestimmt arbeiten.

Menschliche Aufsicht: Wer geschult sein muss

Abs. 2 ist die operativ wichtigste Pflicht. Der Betreiber muss die menschliche Aufsicht über das Hochrisiko-System an Personen übertragen, die die notwendige Kompetenz, die notwendige Schulung und die notwendige Autorität haben. Diese drei Begriffe stehen nebeneinander, und alle drei müssen erfüllt sein.

Kompetenz heißt: Die Person muss verstehen, was das System tut, wo es Fehler machen kann und wie ein Ergebnis aussieht, das gepflegt werden muss. Schulung heißt: Die Person muss diese Fähigkeit nachweislich erworben haben, und die Schulung muss dokumentiert sein. Autorität heißt: Die Person muss befugt sein, eine KI-Entscheidung zu überstimmen, zu pausieren oder das System abzuschalten. Eine Aufsichtsperson ohne Vetorecht ist keine Aufsicht im Sinne der Verordnung.

In der Praxis bedeutet das: Sie brauchen entweder bereits geschulte Mitarbeiter oder einen Schulungsplan. Die KI-Kompetenzpflicht nach Art. 4 KI-VO greift hier flankierend. Wer Art. 4 schon umgesetzt hat, hat für Art. 26 Abs. 2 eine solide Grundlage. Wer Art. 4 vernachlässigt hat, steht jetzt vor einer Doppelaufgabe.

Art. 26 Abs. 2 verweist inhaltlich auf Art. 14 KI-VO. Art. 14 verpflichtet den Anbieter, sein System so zu gestalten, dass eine sinnvolle menschliche Aufsicht überhaupt möglich ist. Die Aufsichtsperson braucht eine Anzeige, sie braucht Eingriffsmöglichkeiten, sie braucht ausreichend Zeit zwischen Anzeige und Wirkung. Wenn der Anbieter diese Anforderungen nicht erfüllt, ist der Betreiber faktisch handlungsunfähig. In diesem Fall muss der Betreiber das System ablehnen oder ein anderes Produkt wählen.

Logs, Information und Transparenz

Die Aufbewahrung der automatisch erzeugten Protokolle nach Abs. 6 ist ein technisches Thema mit datenschutzrechtlicher Tiefe. Die Verordnung schreibt eine Mindestaufbewahrung von sechs Monaten vor, soweit die Logs der Kontrolle des Betreibers unterliegen und nationales Recht oder Unionsrecht nichts anderes vorsieht. Insbesondere die DSGVO kann längere oder kürzere Fristen verlangen.

In der Praxis müssen Sie zwei Dinge klären. Erstens: Welche Logs erzeugt das System überhaupt? Das ergibt sich aus der Gebrauchsanweisung des Anbieters und aus Art. 12 KI-VO. Zweitens: Wo werden die Logs gespeichert? Wenn der Anbieter sie auf seinen Servern hält, brauchen Sie eine vertragliche Regelung, die Ihnen Zugriff und Aufbewahrung garantiert. Wenn Sie selbst speichern, brauchen Sie eine Lösung, die manipulationssicher ist und gleichzeitig die DSGVO-Anforderungen an Zugriffsrechte und Löschung erfüllt.

Abs. 7 betrifft das Arbeitsrecht. Bevor Sie eine Hochrisiko-KI am Arbeitsplatz einsetzen, müssen Sie die betroffenen Arbeitnehmer und, falls vorhanden, die Arbeitnehmervertretung informieren. Diese Pflicht greift unabhängig von der Mitbestimmung nach Betriebsverfassungsgesetz. Sie ist eine eigenständige unionsrechtliche Pflicht. In Unternehmen mit Betriebsrat empfiehlt sich eine Betriebsvereinbarung, die Art. 26 Abs. 7 mitabdeckt. In Unternehmen ohne Betriebsrat genügt eine schriftliche Mitarbeiterinformation, die im Personalakten-System dokumentiert wird.

Abs. 11 dehnt die Transparenzpflicht auf die Außenseite aus. Wenn eine Hochrisiko-KI an einer Entscheidung beteiligt war, die eine natürliche Person betrifft, muss diese Person informiert werden. Das gilt für abgelehnte Bewerber, für abgelehnte Kreditanträge, für behördliche Bescheide und für Entscheidungen im Bildungs- und Gesundheitsbereich. Der Hinweis muss klar und verständlich sein. Floskeln wie "automatisierte Analyse" reichen nicht. Der Betroffene muss erkennen, dass ein KI-System beteiligt war.

Verzahnung mit DSGVO und Art. 27 FRIA

Abs. 9 schlägt die Brücke zur DSGVO. Wenn für den geplanten KI-Einsatz eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO erforderlich ist, muss der Betreiber sie durchführen. Er muss dabei die Informationen nutzen, die der Anbieter nach Art. 13 KI-VO bereitstellt. Die DSFA und die KI-VO greifen ineinander. Sie sind keine Doppelarbeit, aber Sie müssen beide bedenken.

Parallel dazu existiert Art. 27 KI-VO, die Grundrechte-Folgenabschätzung, die sogenannte FRIA. Adressat der FRIA ist nicht jeder Betreiber, sondern ein klar eingegrenzter Kreis. Zur FRIA verpflichtet sind öffentliche Stellen, private Stellen, die öffentliche Dienstleistungen erbringen, sowie private Betreiber von Hochrisiko-KI in den Bereichen Bonität (Anhang III Nr. 5 lit. b) und Lebens- und Krankenversicherungstarifierung (Anhang III Nr. 5 lit. c).

Wenn Sie als Privatunternehmen weder Bonität prüfen noch Lebensversicherungen tarifieren, sind Sie von der FRIA in der Regel ausgenommen. Sie bleiben aber Adressat der DSFA-Prüfung nach Abs. 9, sobald personenbezogene Daten verarbeitet werden. Wer beides macht, also Bonität prüfen und personenbezogene Daten verarbeiten, führt FRIA und DSFA parallel und kann die Ergebnisse aufeinander beziehen.

Die Kommission soll für die FRIA ein Musterformular bereitstellen. Bis dahin orientieren sich Betreiber an den Inhalten, die Art. 27 vorgibt: Beschreibung des Einsatzes, betroffene Personen, Risiken für Grundrechte, Maßnahmen zur menschlichen Aufsicht und Beschwerdemöglichkeiten.

Wann ein Betreiber zum Anbieter wird

Die Trennung zwischen Anbieter und Betreiber ist nicht endgültig. Art. 25 KI-VO regelt drei Fallgruppen, in denen ein Betreiber zum Anbieter wird und damit die deutlich umfangreicheren Pflichten des Anbieters übernimmt.

Erstens: Wenn der Betreiber ein Hochrisiko-System unter seinem eigenen Namen oder seiner eigenen Marke vermarktet. Wer ein eingekauftes System mit eigenem Branding versieht und an Endkunden weiterreicht, wird Anbieter im Sinne der Verordnung.

Zweitens: Wenn der Betreiber den Verwendungszweck eines bereits in Verkehr gebrachten Hochrisiko-Systems wesentlich ändert. Ein Beispiel: Sie kaufen ein KI-System für die Qualitätskontrolle in der Produktion. Sie verwenden es zusätzlich, um Mitarbeiter zu bewerten. Diese Zweckänderung kann Sie zum Anbieter machen.

Drittens: Wenn der Betreiber eine wesentliche Veränderung am System selbst vornimmt, also Modelle nachtrainiert, Sicherheitsfunktionen aushebelt oder Schnittstellen so umbaut, dass die ursprünglichen Konformitätsnachweise des Anbieters nicht mehr passen.

In allen drei Fällen treffen Sie die Pflichten aus Art. 16 ff. KI-VO. Dazu gehören Qualitätsmanagement, technische Dokumentation, Konformitätsbewertung und die CE-Kennzeichnung. Das ist ein erheblicher Sprung. Wer ein Hochrisiko-System nutzt, sollte deshalb genau prüfen, ob die geplante Nutzung in der vom Anbieter beschriebenen Zweckbestimmung bleibt.

Was die Verschiebung auf 02.12.2027 für Sie bedeutet

Das war eng. Im Trilog vom 07.05.2026 haben sich Rat, Parlament und Kommission auf eine politische Einigung verständigt, mit der die Pflichten für Hochrisiko-KI verschoben werden. Für Hochrisiko-Systeme nach Anhang III gilt jetzt der 02.12.2027 als Anwendungsdatum. Für Hochrisiko-Systeme, die in regulierte Produkte nach Anhang I eingebettet sind, gilt der 02.08.2028.

Die Verschiebung ist eine politische Einigung. Sie muss noch förmlich angenommen werden, bevor sie wirksam wird. Bis dahin gilt formal der ursprüngliche Termin 02.08.2026. In der Praxis stellen sich Unternehmen und Behörden bereits auf das neue Datum ein.

Drei Punkte sind wichtig für Ihre Planung. Erstens: Die KI-Kompetenzpflicht nach Art. 4 KI-VO ist seit dem 02.02.2025 in Kraft und nicht von der Verschiebung betroffen. Sie müssen Ihre Mitarbeiter heute schon schulen. Zweitens: Die Verbote aus Art. 5 KI-VO sind seit dem 02.02.2025 anwendbar. Auch sie verschieben sich nicht. Drittens: Die zusätzliche Zeit ist eine Vorbereitungsphase, kein Aufschub im Sinne von Untätigkeit. Wer wartet, wird im November 2027 hektisch.

Nutzen Sie die Zeit für drei Dinge. Erstellen Sie ein Inventar Ihrer KI-Systeme. Klären Sie, welche davon in Anhang III fallen könnten. Beginnen Sie mit der Schulung Ihrer Mitarbeiter, denn ohne geschulte Mitarbeiter erfüllen Sie Abs. 2 nicht. Wer hier strukturiert vorgeht, kommt aus der Reaktion in die Steuerung.

Häufige Fragen

Wer ist Betreiber in einem Konzern mit mehreren Tochtergesellschaften?

Die juristische Person, die das System tatsächlich nutzt. Wenn die Tochter A das System einsetzt, ist die Tochter A Betreiber, nicht die Mutter. Bei konzernweiten Lizenzen kann es mehrere Betreiber gleichzeitig geben. Die Pflichten sind dann pro Betreiber zu erfüllen, gegebenenfalls mit konzernweit abgestimmten Prozessen.

Was passiert bei einem Verstoß gegen Art. 26?

Art. 99 Abs. 4 sieht Bußgelder von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes vor, je nachdem, welcher Betrag höher ist. Für KMU gilt der niedrigere Wert. Daneben drohen zivilrechtliche Ansprüchen und behördliche Untersagungen. Vor allem aber droht der Vertrauensverlust bei Betroffenen, die über Art. 26 Abs. 11 vom KI-Einsatz erfahren haben.

Gilt Art. 26 auch für den Einsatz eines GPAI-Modells wie ChatGPT oder Claude?

Nicht zwangsläufig. GPAI-Modelle sind General Purpose AI und unterliegen einem eigenen Pflichtenregime. Wenn Sie ein solches Modell als Werkzeug ohne Hochrisiko-Charakter nutzen, etwa für Textentwürfe oder Recherche, sind die Pflichten aus Art. 26 nicht einschlägig. Wenn Sie es jedoch in ein Hochrisiko-System integrieren, etwa zur automatischen Vorqualifikation von Bewerbern, können die Hochrisiko-Pflichten greifen.

Wie zähle ich als KMU bei der Bußgeldbemessung?

KMU im Sinne der KI-VO sind Unternehmen mit weniger als 250 Beschäftigten und einem Jahresumsatz unter 50 Millionen Euro oder einer Bilanzsumme unter 43 Millionen Euro, basierend auf der EU-Empfehlung 2003/361/EG. Für diese Unternehmen gilt nach Art. 99 der jeweils niedrigere Betrag der Bußgeldspanne.

Wer ist im Betrieb verantwortlich für die Einhaltung von Art. 26?

Die Verordnung adressiert das Unternehmen als Betreiber. Intern braucht es klare Rollen. In größeren Unternehmen empfiehlt sich ein KI-Beauftragter oder ein KI-Compliance-Board. In kleineren Unternehmen kann die Verantwortung beim Geschäftsführer oder bei der Compliance-Funktion liegen. Wichtig ist, dass die Verantwortung dokumentiert, mit Ressourcen ausgestattet und mit Entscheidungsbefugnis verbunden ist.

Wenn Sie in Ihrem Unternehmen Hochrisiko-KI einsetzen oder einsetzen wollen, sollten Sie Art. 26 als operatives Fundament aufbauen, nicht als juristische Pflicht abhaken. Geschulte Aufsichtspersonen, dokumentierte Prozesse und eine vernünftige Verzahnung mit DSGVO und Arbeitsrecht sind keine Schreibtischarbeit. Sie sind eine Frage der Betriebsfähigkeit. Wer die KI-Kompetenzpflicht nach Art. 4 KI-VO ernst nimmt und das eigene Personal zum Beispiel über die Weiterbildung zum Digitalisierungsmanager qualifiziert, deckt große Teile der Anforderungen aus Art. 26 Abs. 2 bereits ab. Eine breitere Einordnung aller Pflichten und Fristen finden Sie im Überblick zum EU AI Act für Unternehmen.