KI im Betrieb absichern: Schulung für IT-Sicherheitsbeauftragte

KI-Werkzeuge sind in vielen Büros angekommen, bevor jemand geklärt hat, wer sie absichert. Beschäftigte fassen Verträge mit einem Chatbot zusammen, Vertriebsteams lassen Mails vorformulieren, und in der Buchhaltung liest ein Assistent Rechnungen aus. Für IT-Sicherheitsbeauftragte heißt das: Es gibt neue Angriffsflächen, und die bisherigen Schulungen decken sie nur teilweise ab. Hier geht es darum, welches Wissen zur KI-Sicherheit fehlt, welche Regeln inzwischen gelten und wie eine passende Weiterbildung aussieht.

Neue Angriffsflächen durch KI im Büroalltag

Das bekannteste Risiko heißt Prompt Injection. Ein Angreifer versteckt Anweisungen in einem Text, den das Sprachmodell verarbeitet, und das Modell befolgt sie, weil es Anweisungen und Daten nicht sauber trennt. Das kann direkt im Chatfenster passieren oder indirekt über eine Webseite, eine Mail oder ein PDF, das ein KI-Assistent zusammenfassen soll. In der Liste der zehn größten Risiken für Anwendungen mit großen Sprachmodellen, die das OWASP-Projekt herausgibt, steht Prompt Injection in der Ausgabe von 2025 wie schon zuvor auf Platz eins.

Weniger spektakulär, aber häufiger ist der Datenabfluss über Eingaben. Wer Kundendaten, Personalakten oder Angebotskalkulationen in einen öffentlichen Chatbot kopiert, gibt sie an einen Dritten weiter. Oft ohne Vertrag zur Auftragsverarbeitung.

Dazu kommt die sogenannte Schatten-KI. Gemeint sind Werkzeuge, die Mitarbeiter auf eigene Faust nutzen, im Browser, auf dem Privathandy oder als Erweiterung im Mailprogramm. Verbote halten das kaum auf. Ein freigegebenes Angebot, das im Alltag gut funktioniert, senkt den Druck auszuweichen.

Was sich rechtlich verschoben hat

Seit dem 6. Dezember 2025 gilt das NIS-2-Umsetzungsgesetz. Es hat das BSI-Gesetz neu gefasst und den Kreis der verpflichteten Unternehmen deutlich erweitert, die jetzt als besonders wichtige oder wichtige Einrichtungen gelten. Für sie schreibt § 38 Abs. 3 BSIG vor, dass die Geschäftsleitungen regelmäßig an Schulungen teilnehmen, um Risiken in der Informationstechnik erkennen und bewerten zu können. KI-Werkzeuge gehören heute zu diesen Risiken, auch wenn das Gesetz sie nicht eigens nennt.

Die KI-Verordnung der EU setzt an anderer Stelle an. Art. 4 verlangt nach seiner Neufassung durch den Digital Omnibus, dass Anbieter und Betreiber die Entwicklung der KI-Kompetenz ihres Personals unterstützen. Für Hochrisiko-Systeme kommen später strengere Anforderungen hinzu, darunter Genauigkeit, Robustheit und Cybersicherheit nach Art. 15; die Pflichten für Systeme nach Anhang III greifen ab dem 2. Dezember 2027.

Für die Bundesverwaltung regelt dasselbe Umsetzungsgesetz auch das Informationssicherheitsmanagement. Landes- und Kommunalverwaltungen richten sich nach den Vorgaben ihres Landes, die Fragen rund um KI stellen sich dort aber genauso.

Inhalte einer KI-Schulung für Sicherheitsbeauftragte

Eine gute Schulung zur KI-Sicherheit beginnt mit dem Verständnis, wie ein Sprachmodell arbeitet. Wer weiß, dass das Modell Wahrscheinlichkeiten fortschreibt und keine Regeln befolgt, versteht sofort, warum ein Systemprompt kein Sicherheitsmechanismus ist. Darauf bauen die Themen auf, die im Betrieb tatsächlich gebraucht werden:

• Angriffsarten wie direkte und indirekte Prompt Injection, manipulierte Trainings- oder Referenzdaten und unsichere Ausgaben, die ungeprüft weiterverarbeitet werden
• ein Freigabeverfahren für KI-Werkzeuge mit Schutzbedarfsfeststellung, Prüfung des Anbieters und Vertrag zur Auftragsverarbeitung
• Regeln, welche Datenklassen in welches Werkzeug dürfen, verständlich formuliert für alle Beschäftigten
• Rechtevergabe und Protokollierung, wenn KI-Assistenten auf Postfächer, Laufwerke oder Fachanwendungen zugreifen
• Sensibilisierung gegen Täuschungen mit KI, etwa gefälschte Stimmen am Telefon oder täuschend echte Phishing-Mails

Als Grundlage für die Risikoanalyse eignet sich die BSI-Publikation „Generative KI-Modelle: Chancen und Risiken für Industrie und Behörden“, die das Amt fortlaufend aktualisiert.

Aus unserer Erfahrung mit Unternehmen bleiben KI-Richtlinien liegen, wenn sie zwölf Seiten lang sind und niemand sie liest. Eine Seite mit drei klaren Regeln und einer Liste freigegebener Werkzeuge bewirkt mehr als jedes Handbuch. Wer als Sicherheitsbeauftragter die Fachabteilungen früh fragt, welche Aufgaben sie mit KI erledigen wollen, bekommt Akzeptanz statt Umgehung. Und er erfährt, wo die sensiblen Daten tatsächlich liegen.

Wer die Schulung bezahlt

Für Beschäftigte zahlt in der Regel der Arbeitgeber, vor allem bei kurzen Kursen von einem oder zwei Tagen. Längere Weiterbildungen können über das Qualifizierungschancengesetz gefördert werden, wenn Träger und Maßnahme nach AZAV zugelassen sind und die Maßnahme mehr als 120 Stunden umfasst. Den Antrag stellt der Arbeitgeber vor Kursbeginn beim Arbeitgeberservice der Agentur für Arbeit. Bei Betrieben mit weniger als 50 Beschäftigten soll die Agentur von einer Kostenbeteiligung des Arbeitgebers absehen, sodass die Lehrgangskosten in der Regel vollständig übernommen werden. Größere Betriebe beteiligen sich anteilig. Wer arbeitslos ist, kann eine zugelassene Weiterbildung über den Bildungsgutschein der Agentur für Arbeit finanzieren.

Unsere eigenen Weiterbildungen sind keine Ausbildung zum IT-Sicherheitsbeauftragten. Sie behandeln die Sicherheit aber dort, wo KI im Alltag eingesetzt wird. Der Digitalisierungsmanager enthält ein Modul „Datenschutz, Sicherheit und Compliance“ mit 36 Unterrichtseinheiten, der KI-Praktiker die Module „Grenzen und Risiken von KI“ und „Datenschutz und sicherer Umgang mit Daten“.

Wer dagegen erst in die IT-Sicherheit einsteigen will und einen anerkannten Abschluss sucht, findet Abschlüsse, Gehälter und Förderwege im Ratgeber Cybersecurity-Weiterbildung mit Förderung.

Häufige Fragen

Reicht eine klassische Ausbildung zum IT-Sicherheitsbeauftragten für den Umgang mit KI?

Sie liefert das Fundament, also Risikomanagement, Schutzbedarf und Notfallplanung. KI-spezifische Angriffe wie Prompt Injection oder das Abfließen von Daten über Eingaben in Chatbots kommen in älteren Lehrplänen oft nur am Rand vor. Eine gezielte Ergänzung ist deshalb sinnvoll.

Müssen Geschäftsführer selbst an Sicherheitsschulungen teilnehmen?

In besonders wichtigen und wichtigen Einrichtungen nach dem BSI-Gesetz ja. § 38 Abs. 3 BSIG verpflichtet die Geschäftsleitungen, regelmäßig an Schulungen teilzunehmen, um Risiken und Risikomanagementpraktiken in der Informationstechnik erkennen und bewerten zu können.

Schreibt der EU AI Act eine KI-Schulung mit Nachweis vor?

Art. 4 der KI-Verordnung verlangt in seiner aktuellen Fassung, dass Anbieter und Betreiber Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz ihres Personals zu unterstützen. Eine bestimmte Nachweisform schreibt der Verordnungstext nicht vor. Eine dokumentierte Schulung ist trotzdem der einfachste Weg, zu zeigen, was im Betrieb getan wurde.

Wo finde ich eine seriöse Grundlage für die Risikoanalyse bei generativer KI?

Das BSI hat die Publikation „Generative KI-Modelle: Chancen und Risiken für Industrie und Behörden“ veröffentlicht und aktualisiert. Sie ist ausdrücklich als Grundlage für eine Risikoanalyse im Informationssicherheitsmanagement gedacht.