Art. 60 KI-VO 2026: Tests unter Realbedingungen außerhalb der Sandbox

Regulatorische Sandboxes nach Art. 57 und 58 sind die viel beworbene Innovationsförderung der EU-KI-Verordnung. Was viel weniger Aufmerksamkeit bekommt, aber für mittelständische Innovationsteams wichtiger sein kann: Art. 60 erlaubt Tests von Hochrisiko-KI-Systemen unter Realbedingungen, ohne dass das KMU in den oft langwierigen Sandbox-Auswahlprozess hineinmuss. Das ist ein eigenständiges Instrument, das ähnliche Schutzwirkungen hat, aber schneller startbar ist.

Auf einen Blick: Art. 60 EU AI Act erlaubt Tests von Hochrisiko-KI-Systemen unter Realbedingungen außerhalb der Sandbox-Aufnahme. Voraussetzungen: ein bei der Marktüberwachung registrierter Testplan, eine begrenzte Dauer von maximal sechs Monaten plus sechs Monate Verlängerung, dokumentierte Einwilligung der Testpersonen, Versicherung der Haftungsrisiken und das Recht der Testpersonen, sich jederzeit zurückzuziehen. Für KMU der wichtigste Weg, KI vor dem offiziellen Inverkehrbringen produktnah zu erproben, ohne die formale Sandbox-Aufnahme.

Wozu Art. 60 gemacht wurde

Hochrisiko-KI-Systeme nach Anhang III müssen vor dem Inverkehrbringen eine Konformitätsbewertung durchlaufen. Das setzt voraus, dass das System in der Zielanwendung getestet wurde. Aber wie testet man ein Hochrisiko-System realistisch, wenn es noch nicht in Verkehr gebracht werden darf? Genau hier setzt Art. 60 an. Er schafft einen rechtlichen Rahmen für Tests in der Realwelt, der den Anbieter vor unbeabsichtigten Verstößen schützt und die Testpersonen mit Schutzmechanismen ausstattet.

Der Unterschied zur Sandbox ist subtil, aber praktisch wichtig. Eine Sandbox ist ein zentral organisiertes Programm der nationalen Behörde mit Auswahlverfahren, Begleitung und Reporting. Art. 60 ist ein registriertes Verfahren mit Schutzmechanismen, aber ohne aktive Behördenbegleitung. Der Anbieter ist näher an der Eigenverantwortung.

Die sieben Voraussetzungen nach Art. 60 Abs. 4

Art. 60 Abs. 4 listet sieben Voraussetzungen für einen rechtmäßigen Realwelt-Test.

Erstens ein registrierter Testplan bei der zuständigen Marktüberwachungs-Behörde. Der Plan enthält Zweck, Umfang, Dauer, betroffene Personen, Schutzmechanismen und Wiederanlauf-Strategie bei Problemen.

Zweitens muss der Anbieter oder potenzielle Anbieter verantwortlich sein. Eine reine Endkunden-Erprobung ohne Anbieter-Verantwortung ist nicht erlaubt.

Drittens müssen die Testpersonen freiwillig und informiert teilnehmen. Erzwungene Tests, etwa über Arbeitnehmer-Bewerbungen oder Sozialleistungs-Bezieher, sind ausgeschlossen.

Viertens muss eine dokumentierte Einwilligung vorliegen. Mündliche Zustimmung reicht nicht, schriftliche oder digitale signierte Einwilligung ist Pflicht.

Fünftens muss eine Versicherung Haftungsrisiken decken. Der Anbieter haftet für Schäden, die aus dem KI-System entstehen, die Versicherung muss das abfangen können.

Sechstens muss der Test ergebnisoffen sein. Tests, die nur ein vorher festgelegtes Ergebnis bestätigen sollen, sind nicht zulässig. Echtes Lernen über die KI-Performance ist der Zweck.

Siebtens müssen Sicherheitsmechanismen aktiv sein. Menschliche Aufsicht nach Art. 14 läuft, Logging nach Art. 12 ist eingerichtet, Cybersecurity nach Art. 15 ist gewährleistet.

Die Sechs-Monats-Begrenzung

Art. 60 Abs. 4 lit. b begrenzt die Testdauer auf sechs Monate, einmalig verlängerbar um weitere sechs Monate. Diese Begrenzung ist scharf und nicht verhandelbar. Wer nach zwölf Monaten noch testen will, muss das System in den regulären Konformitätsbewertungs-Weg überführen oder den Sandbox-Weg gehen.

In der Praxis ist das eine vernünftige Disziplin. Wer ein Hochrisiko-System nicht innerhalb von zwölf Monaten produktreif machen kann, sollte es nicht weiterführen, sondern die Architektur überdenken.

Die Registrierung beim Marktüberwachungs-Amt

Der Testplan muss bei der Marktüberwachungs-Behörde des Mitgliedstaats registriert werden, in dem der Test stattfindet. In Deutschland ist das die Bundesnetzagentur als koordinierende Stelle, sektoral können Behörden wie BaFin (Finanzdienste) oder BfArM (Medizinprodukte) zusätzlich beteiligt sein.

Zusätzlich erfolgt eine Eintragung in die EU-Datenbank nach Art. 71. Die Eintragung muss Stammdaten des Tests, beteiligte Personen, Schutzmechanismen und Versicherungsnachweise enthalten.

Die Behörde hat 30 Tage Zeit zur Prüfung. Bei stillschweigender Genehmigung kann der Test nach Ablauf der Frist starten, falls die Behörde nicht widersprochen hat.

Einwilligung der Testpersonen: was drinstehen muss

Art. 60 Abs. 4 lit. d verlangt eine freiwillige, informierte und dokumentierte Einwilligung der Testpersonen. Die Einwilligung muss in einfacher Sprache formuliert sein und mindestens sechs Inhalte abdecken.

Zweck des Tests in klarer Sprache. Dauer und voraussichtlicher Aufwand. Mögliche Risiken und negative Auswirkungen. Verarbeitung personenbezogener Daten nach DSGVO. Recht, sich jederzeit ohne Begründung zurückzuziehen, ohne dass dies Nachteile auslöst. Beschwerde- und Klagewege bei Problemen.

Mündliche oder konkludente Einwilligung reicht nicht. Die Einwilligung muss aktiv und nachweisbar erfolgen. Bei Online-Tests typischerweise per Opt-in-Checkbox mit Verlinkung zur Einwilligungs-Erklärung.

Haftungsversicherung als Pflicht

Art. 60 Abs. 4 lit. e verlangt eine Versicherung oder gleichwertige Vorkehrungen für Haftungsrisiken. In der Praxis heißt das eine Betriebshaftpflicht mit KI-Klausel, eine Produkthaftpflicht oder eine speziell auf das Test-Vorhaben zugeschnittene Versicherung.

Marktüblich ist eine Deckungssumme von einer bis fünf Millionen Euro für KMU-Tests. Bei Hochrisiko-Anwendungen mit potenziell schwerwiegenden Folgen (Gesundheitsbereich, Verkehr, kritische Infrastruktur) können auch zwanzig bis fünfzig Millionen Euro erforderlich sein.

Wichtig: die Versicherung muss explizit KI-Risiken abdecken. Standard-Betriebshaftpflicht-Policen schließen oft Software- oder KI-bezogene Risiken aus. Eine Erweiterung ist notwendig, mit Aufschlägen von 15 bis 40 Prozent gegenüber der Basis-Police.

Schutzmechanismen während des Tests

Drei Schutzmechanismen sind während eines Art-60-Tests permanent aktiv. Menschliche Aufsicht nach Art. 14: eine fachkundige Person überwacht das KI-System in geeigneter Form. Bei zeitkritischen Anwendungen kann das ein Echtzeit-Monitoring sein, bei langsamen Prozessen reicht eine tägliche oder wöchentliche Stichproben-Kontrolle.

Logging nach Art. 12: das System protokolliert seine Eingaben, Outputs und Entscheidungs-Pfade nachvollziehbar. Die Logs werden mindestens sechs Monate aufbewahrt, bei langfristigen Folge-Untersuchungen länger.

Cybersicherheit nach Art. 15: das System ist gegen Manipulation und unautorisierten Zugriff geschützt. Verschlüsselung, Zugriffskontrollen, Audit-Trails sind Standard.

Praxis-Beispiel: HR-Tech-Startup im Realwelt-Test

Ein SaaS-Startup in Berlin entwickelt eine KI-gestützte Recruiting-Plattform. Die Plattform fällt unter Anhang III Nr. 4 lit. a (KI-Systeme für Personalauswahl), ist also Hochrisiko. Vor dem offiziellen Markteintritt will das Startup die KI an drei Pilot-Kunden testen, ohne in das volle CE-Verfahren zu gehen.

Vorgehen über Art. 60. Testplan mit drei Pilot-Kunden (mittelständische Unternehmen aus dem persönlichen Netzwerk des Gründers), Dauer fünf Monate, Schutzmechanismen klar definiert. Einwilligung der Testpersonen (die Bewerber) über die Karriere-Seite der Pilot-Kunden mit klarer Erläuterung. Versicherung über zwei Millionen Euro Deckungssumme. Registrierung bei der Bundesnetzagentur, Genehmigung nach 22 Tagen.

Während des Tests: HR-Verantwortliche der Pilot-Kunden treffen die finale Entscheidung, die KI ist Vorauswahl-Hilfsmittel. Logs aller Empfehlungen werden aufbewahrt. Bewerber können sich jederzeit von der KI-Auswertung zurückziehen und manuell beurteilt werden.

Nach Test-Abschluss: ausführlicher Test-Report, Anpassungen am System, Übergang in das reguläre Konformitätsbewertungs-Verfahren mit gestärkter Datenlage.

Praxis-Beispiel: Werbeagentur mit KI-Personalisierung

Eine Werbeagentur in München will eine neuartige KI-gestützte Anzeigen-Personalisierung an einem Pilot-Kunden testen. Die Personalisierung könnte unter Anhang III Nr. 8 (kritische Infrastruktur) fallen, wenn sie für öffentlich-rechtliche Plattformen eingesetzt wird, oder neutral als nicht-Hochrisiko, wenn sie privatwirtschaftlich bleibt.

Aus Vorsicht entscheidet sich die Agentur für den Art-60-Weg. Testplan, registrierte Versicherung, Einwilligungen der Endnutzer auf den Pilot-Plattformen. Test läuft vier Monate, generiert Daten zur Performance und zu Beschwerden, mündet dann in eine Konformitätsbewertung nach Anhang VI (interne Bewertung).

Vergleich zur Sandbox

Was Art. 60 der Sandbox voraushat: schneller Start, keine zentrale Auswahl, weniger formale Bürokratie. Was die Sandbox bietet, was Art. 60 nicht hat: aktive Beratung durch die Behörde, Compliance-Bestätigung am Ende, Schutz vor Bußgeldern nach Art. 57 Abs. 12.

In der Entscheidung: wenn ein KMU ein konkretes Test-Vorhaben hat und schnell starten will, ist Art. 60 der richtige Weg. Wenn ein KMU eine strategische Compliance-Position aufbauen will und behördliche Begleitung schätzt, ist die Sandbox attraktiver.

Verzahnung zu DSGVO und Art. 35 DSFA

Wenn der Realwelt-Test personenbezogene Daten verarbeitet, gilt parallel die DSGVO. Eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO ist bei Hochrisiko-Verarbeitung Pflicht. Diese DSFA wird zum Bestandteil des Art-60-Testplans und muss bei der Marktüberwachungs-Behörde mitsamt der DSGVO-Konformität nachgewiesen werden.

In der Praxis lohnt es sich, KI-Testplan und DSFA als ein Dokument aufzubauen. Doppelter Aufwand wird vermieden, beide Compliance-Stränge laufen synchron.

Eigene Haltung aus der Beratungspraxis

Art. 60 ist das unterschätzte Schwesterinstrument der Sandbox. Wir sehen bei unseren Teilnehmern aus dem DigiMan-Kurs immer wieder, dass mittelständische Innovationsteams die Sandbox kennen, aber Art. 60 nicht. Dabei ist Art. 60 für die meisten KMU der praktikablere Weg, weil er ohne Auswahlverfahren und ohne mehrmonatigen Antragsprozess auskommt. Wer schnell ein Hochrisiko-Konzept in der Praxis erproben will, ist hier besser aufgehoben als bei der Sandbox.

Häufige Fragen

Was unterscheidet Art. 60 von der Sandbox nach Art. 57 und 58 konkret? Art. 60 ist ein registriertes Verfahren ohne aktive Behördenbegleitung. Die Sandbox ist ein zentral organisiertes Programm mit Auswahlverfahren und Beratung. Art. 60 ist schneller startbar, die Sandbox bietet mehr Compliance-Sicherheit.

Brauche ich eine spezielle KI-Versicherung? Ja. Standard-Betriebshaftpflicht reicht meist nicht, weil KI-Risiken oft ausgeschlossen sind. Eine Erweiterung der Police um KI-Klauseln ist nötig. Marktüblich sind ein bis fünf Millionen Euro Deckungssumme für KMU-Tests.

Wie lange dauert die Registrierung bei der Bundesnetzagentur? Maximal 30 Tage. Bei stillschweigender Genehmigung kann der Test nach Ablauf der Frist starten. In der Praxis sind Genehmigungen oft schneller, wenn die Unterlagen vollständig sind.

Was passiert nach den maximal zwölf Monaten Testzeit? Der Test endet. Das KI-System muss entweder das reguläre Konformitätsbewertungs-Verfahren durchlaufen oder eingestellt werden. Eine weitere Verlängerung über die zwölf Monate hinaus ist nicht möglich.

Gilt Art. 60 auch für GPAI-Modelle? Art. 60 zielt primär auf Hochrisiko-KI-Systeme nach Anhang III. Für GPAI-Modelle gelten eigene Regeln in Art. 53 bis 56. GPAI-Modelle mit systemischem Risiko nach Art. 55 müssen ohnehin laufend evaluiert und an das AI Office gemeldet werden, was über die Art-60-Logik hinausgeht.

Wer regulatorische Sandboxes als Alternative prüfen will, findet den Einstieg in unserem Beitrag zu Art. 57 + 58 KI-VO Regulatory Sandboxes. Unsere Weiterbildung zum Digitalisierungsmanager bei SkillSprinters bereitet auch auf die Compliance-Architektur von Hochrisiko-KI vor und ist für Arbeitsuchende über den Bildungsgutschein kostenfrei.