KI-Inventar im Betrieb aufbauen 2026: das Verzeichnis, das jede Compliance braucht

Auf einen Blick: Ein KI-Verzeichnis listet alle im Betrieb eingesetzten KI-Systeme mit Zweck, Anbieter, Datenarten, Risikoeinstufung und Verantwortlichem. Es ist die praktische Grundlage für fast jede KI-VO-Pflicht (Art. 4, Art. 26) und greift in das Verzeichnis von Verarbeitungstätigkeiten nach Art. 30 DSGVO ein. Es macht Shadow AI sichtbar und lässt sich in einer Tabelle starten, ein eigenes Tool ist erst bei vielen Systemen nötig.

Frag in einem mittelständischen Betrieb, welche KI-Systeme im Einsatz sind, und du bekommst meist eine Antwort, die zu kurz ist. Genannt werden der Chatbot auf der Website und vielleicht ein Microsoft Copilot. Was niemand auf dem Schirm hat: die Vertriebsmitarbeiterin, die ChatGPT für Angebotstexte nutzt, der Buchhalter mit seiner privaten KI-App zur Belegerkennung, das Marketing, das Bilder über einen US-Dienst generiert. Genau diese unsichtbare Nutzung ist das Problem. Ohne ein Verzeichnis weiß niemand, wo KI überhaupt im Betrieb arbeitet, und ohne dieses Wissen ist jede Compliance Stückwerk.

Ein KI-Inventar ist die einfachste und gleichzeitig wirksamste Maßnahme, die ein KMU im Jahr 2026 ergreifen kann. Es kostet keine Lizenz, braucht kein Tool und schafft sofort Überblick. Wer KI-VO und DSGVO ernst nehmen will, fängt hier an.

Warum das Verzeichnis die Basis jeder KI-Compliance ist

Die EU-KI-Verordnung verlangt an mehreren Stellen Pflichten, die alle dieselbe Voraussetzung haben: Du musst wissen, welche KI du einsetzt. Art. 4 KI-VO, die seit dem 02.02.2025 geltende Kompetenzpflicht, verlangt, dass alle Personen, die mit KI-Systemen arbeiten, über ausreichende KI-Kompetenz verfügen. Das kannst du nur sicherstellen, wenn du weißt, wer welches System bedient. Art. 26 KI-VO regelt die Betreiberpflichten bei Hochrisiko-Systemen. Auch hier musst du zuerst wissen, ob ein eingesetztes System überhaupt in diese Kategorie fällt.

Die Einstufung selbst ist ohne Inventar nicht machbar. Die KI-VO kennt vier Risikoklassen: verbotene Praktiken nach Art. 5, Hochrisiko-Systeme nach Anhang III, Systeme mit Transparenzpflicht nach Art. 50 und solche mit minimalem Risiko. Welches deiner Systeme in welche Klasse fällt, lässt sich erst beurteilen, wenn du sie alle aufgelistet hast. Das Verzeichnis ist damit weniger eine zusätzliche Pflicht als das Werkzeug, mit dem du alle anderen Pflichten überhaupt erfüllen kannst.

Wer das überspringt und direkt mit einzelnen Maßnahmen anfängt, behandelt Symptome. Erst kommt das Verzeichnis, dann die Einstufung, dann die jeweilige Pflicht. In dieser Reihenfolge.

Schnittstelle zur DSGVO: Art. 30 und das Verzeichnis von Verarbeitungstätigkeiten

Das KI-Verzeichnis steht nicht isoliert. Viele KI-Systeme verarbeiten personenbezogene Daten, und damit greift die DSGVO. Nach Art. 30 DSGVO musst du ohnehin ein Verzeichnis von Verarbeitungstätigkeiten führen, sobald dein Unternehmen regelmäßig personenbezogene Daten verarbeitet. KI-gestützte Verarbeitungen gehören da hinein.

Praktisch heißt das: Das KI-Inventar und das Verzeichnis von Verarbeitungstätigkeiten überlappen sich. Ein KI-System, das Kundendaten analysiert, taucht in beiden auf. Es lohnt sich, die beiden Verzeichnisse miteinander zu verzahnen, statt sie getrennt zu pflegen. Ein Eintrag im KI-Inventar verweist auf den passenden Eintrag im Verzeichnis von Verarbeitungstätigkeiten und umgekehrt. So vermeidest du Doppelarbeit und Widersprüche.

Das ist auch der Punkt, an dem der Datenschutzbeauftragte mit ins Boot kommt. Wer einen hat, sollte das KI-Inventar gemeinsam mit ihm aufbauen, weil die DSGVO-Bewertung und die KI-VO-Bewertung Hand in Hand gehen. Wer keinen hat, weil das Unternehmen unter den Schwellen liegt, sollte trotzdem eine Person benennen, die beides verantwortet.

Shadow AI sichtbar machen

Der größte Nutzen eines Verzeichnisses liegt nicht in der formalen Compliance, sondern darin, dass es die unsichtbare Nutzung ans Licht holt. Shadow AI ist der Sammelbegriff für KI-Tools, die Mitarbeiter eigenmächtig einsetzen, ohne dass die Geschäftsführung davon weiß. Das ist verbreiteter, als die meisten glauben.

Das Risiko daran ist konkret. Wer Kundendaten in eine kostenlose Consumer-KI eingibt, deren Anbieter die Eingaben zum Modelltraining nutzt, gibt unter Umständen Geschäftsgeheimnisse und personenbezogene Daten unkontrolliert ab. Wer ohne Freigabe ein US-Tool nutzt, löst einen Drittlandtransfer aus, der nach Art. 44 ff. DSGVO geprüft sein müsste. Solange diese Nutzung im Verborgenen läuft, kann niemand sie steuern.

Ein Verzeichnis macht die Nutzung sichtbar, weil seine Erstellung eine Abfrage in allen Abteilungen erzwingt. Genau diese Abfrage ist oft schon der wertvollste Teil. Wir sehen in der Praxis regelmäßig, dass beim Aufbau des Inventars drei bis fünf Tools auftauchen, von denen die Leitung nichts wusste. Manche davon sind harmlos, manche müssen sofort gestoppt oder durch eine freigegebene Alternative ersetzt werden. Ohne das Inventar wäre keines davon je aufgefallen.

Die Pflichtfelder pro Eintrag

Ein brauchbares KI-Verzeichnis hat für jedes System eine feste Spaltenstruktur. Diese neun Felder haben sich als Minimum bewährt:

Diese Struktur reicht für die allermeisten KMU. Sie verbindet die KI-VO-Sicht (Risikoklasse, Verantwortlicher) mit der DSGVO-Sicht (Datenarten, Personenbezug, AVV) in einer Tabelle. Wer mehr braucht, kann Felder ergänzen, etwa die Rechtsgrundlage der Verarbeitung, das Hosting-Land im Detail oder einen Verweis auf das Verzeichnis von Verarbeitungstätigkeiten.

Wichtig ist, das Verzeichnis nicht zu überladen. Eine Tabelle mit fünfzehn Spalten wird nicht gepflegt. Neun Spalten, die jeder versteht und in zwei Minuten pro System ausfüllt, werden gepflegt. Lieber schlank starten und bei Bedarf erweitern.

Risikoeinstufung nach KI-VO

Die Spalte Risikoklasse ist das Herzstück und gleichzeitig die Stelle, an der die meisten unsicher sind. Die KI-VO unterscheidet vier Stufen.

Verbotene Praktiken nach Art. 5 KI-VO sind Systeme, die unzulässige Zwecke verfolgen, etwa Social Scoring durch Behörden oder manipulative Techniken, die das Verhalten von Menschen unterschwellig beeinflussen. Solche Systeme sind komplett untersagt. In einem typischen KMU kommen sie praktisch nicht vor, aber die Spalte erzwingt die bewusste Prüfung.

Hochrisiko-Systeme nach Anhang III sind klar definierte Anwendungsfälle, etwa KI im Bewerber-Scoring, in der Kreditwürdigkeitsprüfung oder in der Bildungsbewertung. Hier greifen die strengen Pflichten aus Art. 9 bis 15 KI-VO. Diese Pflichten wurden nach dem Trilog vom 07.05.2026 auf den 02.12.2027 verschoben (Omnibus), aber wer eine solche Anwendung einsetzt, sollte sie schon heute im Verzeichnis als Hochrisiko markieren und die kommende Pflicht einplanen.

Systeme mit Transparenzpflicht nach Art. 50 KI-VO sind etwa Chatbots, Voice-Agents oder Systeme, die Bilder, Video oder Audio generieren. Diese Pflicht tritt am 02.08.2026 in Kraft. Der Nutzer muss erkennen, dass er mit einer KI interagiert oder dass ein Inhalt KI-generiert ist.

Minimales Risiko ist alles Übrige, etwa ein KI-gestützter Spam-Filter oder ein internes Textwerkzeug. Hier gibt es keine spezifischen KI-VO-Pflichten über Art. 4 (Kompetenz) hinaus.

Die Einordnung muss nicht juristisch perfekt sein, um nützlich zu sein. Eine erste, ehrliche Selbsteinschätzung pro System schafft schon Überblick. Wo Unsicherheit besteht, hilft eine kurze rechtliche Prüfung des einzelnen Systems, nicht des ganzen Betriebs auf einmal. Die Grundlagen der Kompetenzpflicht, die für alle Klassen gilt, erklären wir ausführlich im Beitrag zur KI-Kompetenzpflicht nach Art. 4 KI-VO.

Schritt für Schritt zum eigenen KI-Inventar

So baust du das Verzeichnis in einem KMU auf, ohne dich in Theorie zu verlieren.

Ein einfaches KI-Verzeichnis lässt sich in einer Tabellenkalkulation starten. Ein eigenes Tool oder Modul lohnt sich erst, wenn die Zahl der Systeme so groß wird, dass die Tabelle unübersichtlich wird, also typisch ab mehreren Dutzend Einträgen. Für den Einstieg ist die Tabelle völlig ausreichend und hat den Vorteil, dass sie sofort verfügbar ist.

Praxis-Beispiel: Ein Großhändler erstellt sein KI-Inventar

Hartmann Großhandel KG, ein fiktiver Baustoff-Großhändler aus Westfalen mit 60 Mitarbeitern, will Ordnung in ihren KI-Einsatz bringen. Die Geschäftsführung benennt die Assistentin der Geschäftsleitung gemeinsam mit dem externen Datenschutzbeauftragten als Verantwortliche und schickt eine kurze Abfrage an alle Abteilungsleiter.

Das Ergebnis überrascht. Auf der offiziellen Liste standen zwei Systeme: der Website-Chatbot und Microsoft Copilot in der Verwaltung. Die Abfrage bringt sieben weitere zutage. Der Vertrieb nutzt ChatGPT für Angebotstexte, das Marketing einen US-Bilddienst, die Disposition eine private Übersetzungs-App für ausländische Lieferanten, ein Lagerleiter ein KI-Tool zur Bestellprognose, das er selbst abonniert hat. Alle sieben werden ins Verzeichnis eingetragen.

Bei der Risikoeinstufung fällt auf, dass die meisten Systeme minimalem Risiko zuzuordnen sind. Der Chatbot bekommt die Transparenzpflicht nach Art. 50 KI-VO, weil er ab 02.08.2026 als KI erkennbar sein muss. Heikel sind zwei Fälle: Die private Übersetzungs-App verarbeitet Lieferantendaten ohne AVV und über einen US-Anbieter mit Modelltraining. Sie wird gestoppt und durch eine freigegebene EU-Lösung ersetzt. Das ChatGPT-Konto im Vertrieb wird auf eine geschäftliche Lizenz mit Datenschutzzusage umgestellt, mit klarer Regel, welche Daten hineindürfen.

Was wir an diesem Fall regelmäßig beobachten: Das Verzeichnis ist in zwei Tagen erstellt, aber es deckt mehr auf als jede teure Beratung vorher. Die unsichtbaren Tools sind das eigentliche Risiko, und sie werden erst sichtbar, wenn jemand systematisch fragt. Wer dieses Inventar einmal hat, kann es halbjährlich aktualisieren und ist damit für Art. 4, Art. 26 und die DSGVO grundlegend aufgestellt.

Verhältnis zu einem Managementsystem nach ISO/IEC 42001

Wer es größer aufziehen will, sollte wissen, dass das KI-Verzeichnis auch der erste Baustein eines KI-Managementsystems nach ISO/IEC 42001:2023 ist. Diese im Dezember 2023 veröffentlichte Norm beschreibt, wie ein Unternehmen den Einsatz von KI systematisch steuert, vom Risikomanagement über die Verantwortlichkeiten bis zur kontinuierlichen Verbesserung. Ein vollständiges, gepflegtes Inventar ist Voraussetzung, weil ein Managementsystem ohne Überblick über die eingesetzten Systeme nicht funktioniert.

Für die meisten KMU ist eine ISO-Zertifizierung 2026 noch kein Thema, weil sie aufwendig ist und meist von größeren Organisationen oder regulierten Branchen verlangt wird. Aber das Inventar, das du heute aufbaust, ist genau die Grundlage, auf der ein solches System später aufsetzt. Du baust also nichts doppelt, sondern legst den Grundstein, der ohnehin nötig wäre.

Häufige Fragen

Brauche ich als kleines KMU überhaupt ein KI-Verzeichnis?

Rechtlich ist ein eigenständiges KI-Verzeichnis nicht ausdrücklich vorgeschrieben, ein Verzeichnis von Verarbeitungstätigkeiten nach Art. 30 DSGVO aber sehr wohl, sobald regelmäßig personenbezogene Daten verarbeitet werden. Praktisch ist das KI-Inventar die einfachste Methode, um Art. 4 KI-VO, Art. 26 KI-VO und die DSGVO-Pflichten überhaupt erfüllen zu können. Auch ein kleines Unternehmen mit fünf KI-Tools profitiert sofort, weil es Shadow AI sichtbar macht.

Wie oft muss ich das KI-Verzeichnis aktualisieren?

Eine halbjährliche Überprüfung hat sich als praktikabler Rhythmus bewährt. Zusätzlich gilt: Jedes neue KI-Tool wird sofort eingetragen, bevor es produktiv genutzt wird, und jede wesentliche Änderung (neuer Zweck, neue Datenart, Anbieterwechsel) wird nachgepflegt. Wer die halbjährliche Prüfung fest im Kalender verankert und einen Verantwortlichen benannt hat, hält das Verzeichnis ohne großen Aufwand aktuell.

Was passiert, wenn beim Aufbau verbotene oder riskante Tools auftauchen?

Genau dafür ist das Verzeichnis da. Tauchen Tools auf, die personenbezogene Daten ohne Auftragsverarbeitungsvertrag oder über problematische Drittländer verarbeiten, werden sie gestoppt und durch freigegebene Alternativen ersetzt. Verbotene Praktiken nach Art. 5 KI-VO kommen im KMU selten vor, müssen aber sofort eingestellt werden. Die Sichtbarmachung ist der erste Schritt, die Steuerung der zweite.

Gehört das KI-Verzeichnis ins Verzeichnis von Verarbeitungstätigkeiten?

Beide hängen eng zusammen, sind aber nicht identisch. Das Verzeichnis von Verarbeitungstätigkeiten nach Art. 30 DSGVO erfasst alle Verarbeitungen personenbezogener Daten, auch ohne KI. Das KI-Inventar erfasst alle KI-Systeme, auch solche ohne Personenbezug. Wo sich beide überschneiden (KI-System mit personenbezogenen Daten), sollten die Einträge verzahnt werden, damit keine Widersprüche entstehen und keine Doppelarbeit anfällt.

Über den Autor

Dr. Jens Aichinger ist promovierter Wirtschaftspädagoge und Inhaber von SkillSprinters, einem DEKRA-zertifizierten Bildungsträger. Er entwickelt seit 2024 KI-gestützte Weiterbildungs- und Prozessautomatisierungslösungen für den Mittelstand. Über Skill-Sprinters läuft auch der Digitalisierungsmanager, eine 4-monatige geförderte Weiterbildung.

30 Minuten Klarheit kosten nichts. Wenn Du KI im Betrieb einsetzt oder überlegst einzusetzen, kommt es nicht auf das Tool an. Es kommt auf die Frage: wo entstehen Risiken, wo Hebel? In 30 Minuten gehen wir Deine konkrete Lage durch und Du weißt, wo Du anfangen solltest. Termin reservieren oder kostenlosen KI-Schnupperkurs starten.

Zuletzt geprüft am 27. Mai 2026.