Die Hamburger Datenschutzaufsicht beantwortet in zehn Seiten, ob eine Behörde ein Sprachmodell einsetzen darf, dessen Training sie nicht kennt.

Erst kostenlos reinschnuppern, dann entscheiden

Bevor du dich für eine Weiterbildung entscheidest, sieh dir kostenlos an, wie sie läuft, fünf Lektionen plus Live-Demo, ohne Verpflichtung. Passt es, ist der Digitalisierungsmanager bei bewilligtem Bildungsgutschein für dich kostenlos.

Kostenlos reinschnuppern

Was die Fallstudie beschreibt

LLMoin ist der KI-Chatbot der Hamburger Verwaltung. Laut Fallstudie ist er eine Hülle um ein Modell von OpenAI: Der Hamburger Senat hat kein eigenes Modell trainiert und auch kein Nachtraining vorgenommen. Anwendungsfälle, die nach der KI-Verordnung als Hochrisiko gelten würden, sind ausgeschlossen.

Der HmbBfDI sagt, die Fallstudie zeige, wie sich Sprachmodelle datenschutzgerecht einsetzen lassen. Ihre Erkenntnisse seien auch auf Verantwortliche außerhalb der öffentlichen Hand übertragbar. Das ist die Formulierung der Behörde.

LLMoin dient laut HmbBfDI als Assistenzinstrument. Es ersetzt die rechtliche Prüfung nicht und trifft keine Entscheidungen. Der HmbBfDI nutzt das Werkzeug selbst für die Beschwerdebearbeitung.

Der Maßstab: Stellungnahme 28/2024 des EDSA

Als rechtlichen Maßstab zieht die Fallstudie die Stellungnahme 28/2024 des Europäischen Datenschutzausschusses heran. Ihr Szenario 2 betrifft den Fall, dass ein anderer Verantwortlicher ein Modell einsetzt, das jemand anderes trainiert hat. Diesen Verantwortlichen trifft dann eine eigene Rechenschaftspflicht. Er muss sich vergewissern, ob das Training rechtmäßig war, und verhindern, dass das Modell Trainingsdaten ausgibt, die rechtswidrig verarbeitet wurden.

Der HmbBfDI wählt dafür einen pragmatischen Weg. Er nimmt hin, dass das Modell aller Wahrscheinlichkeit nach nicht anonym ist. Dann gilt in der Regel Szenario 2, und das Modell kann genutzt werden, wenn hinreichende risikominimierende Maßnahmen die Extraktion personenbezogener Daten verhindern. Der Fokus liegt damit auf dem KI-System und weniger auf dem Modell. Die früheren Hamburger Thesen zum Personenbezug in Sprachmodellen sind laut Fallstudie nicht mehr maßgeblich, führen aber zu einem ähnlichen Ergebnis.

Welche Schutzmaßnahmen bei LLMoin greifen

Die Fallstudie bewertet die Maßnahmen bei LLMoin insgesamt als ausreichend. Genannt werden unter anderem Input- und Output-Filter, Content-Filter, ein Systemprompt, Nutzungsregeln, Red Teaming und Schulungen.

Der Systemprompt ist laut Fallstudie kein Ersatz für technische Schutzmaßnahmen. Die Nutzungsregeln untersagen die Eingabe von Daten mit hohem Schutzbedarf, automatisierte Entscheidungsfindung und die Abfrage personenbezogener Daten aus der Wissensbasis des Modells. Das Red Teaming hat die Senatskanzlei beauftragt, und laut Fallstudie ist es kein einmaliger Nachweis. Eine einzelne universelle Lösung gibt es nach der Fallstudie nicht.

Filter gelten nach Auffassung der Datenschutzkonferenz nicht als Löschung im Sinne von Artikel 17 DSGVO. Und eine Lücke benennt die Fallstudie selbst: Machine Unlearning, also das gezielte Entfernen von Wissen aus einem trainierten Modell, ist ein Forschungsfeld ohne technische Reife. Löschpflichten auf Modellebene sind derzeit nicht durchsetzbar.

Reichweite und offene Punkte

Eine Landesaufsicht beschreibt einen Fall der öffentlichen Verwaltung. Dass sich die Erkenntnisse auf Unternehmen übertragen lassen, ist die Aussage des HmbBfDI. Andere Aufsichten und Gerichte können das anders sehen.

Geprüft wurde LLMoin zum Zeitpunkt der Prüfung mit GPT-4.1. Für das aktuelle Modell nimmt die Fallstudie an, dass Gleiches gilt. Ein Prüfdatum nennt sie nicht, und der Bericht von PPC Land schreibt dasselbe.

Welche der Maßnahmen ein kleiner Betrieb umsetzen muss, geben die Quellen nicht her. Die Fallstudie bewertet den Einzelfall LLMoin. Wer die rechtlichen Grundlagen für den eigenen Betrieb im Überblick lesen will, findet sie im Praxisleitfaden DSGVO und KI für den Mittelstand.

Unsere Einschätzung

Wer ChatGPT, Claude oder Gemini im Betrieb nutzt, setzt ein fremdes Modell ein, dessen Training er nicht prüfen kann. Der Gedanke der Hamburger Fallstudie, das System um das Modell herum abzusichern, trifft diese Lage genau. Wer ein Sprachmodell nur nutzt und nicht selbst trainiert, steht damit in derselben Lage wie der Hamburger Senat bei LLMoin.

Aus unserer Sicht heißt das für einen kleinen Betrieb zuerst: Regeln und Schulung. Schriftlich festlegen, welche Daten in ein KI-Werkzeug eingegeben werden dürfen und welche nicht. Festlegen, an welcher Stelle ein Mensch das Ergebnis prüft. Klar machen, dass keine Entscheidung über Personen allein von der KI kommt. Und den Mitarbeitern erklären, dass Sprachmodelle Dinge erfinden können. Die Nutzungsregeln von LLMoin gehen in dieselbe Richtung, und sie lassen sich ohne Spezialsoftware aufschreiben.

Filter und Red Teaming sind in Hamburg Teil einer großen Verwaltungslösung. Wie viel davon ein Handwerksbetrieb braucht, sagt die Fallstudie nicht, und wir können es aus ihr auch nicht ableiten. Das ist unsere Einordnung und keine Rechtsberatung. Wer wissen will, was für den eigenen Betrieb gilt, fragt den Datenschutzbeauftragten oder eine Rechtsberatung.

Die Fallstudie nennt keine Pflichtliste, und wir leiten aus ihr auch keine ab. Als Anregung taugt sie trotzdem: Wer die Regeln einmal schriftlich hat, kann bei jedem neuen KI-Werkzeug prüfen, ob sie noch passen.

Quellen

Die genannten Angaben stützen sich auf folgende öffentlich zugängliche Quellen (Stand der Recherche: 11. November 2026):

Häufige Fragen

Was ist LLMoin?

LLMoin ist der KI-Chatbot der Hamburger Verwaltung. Laut Fallstudie des HmbBfDI ist er eine Hülle um ein Modell von OpenAI, der Hamburger Senat hat kein eigenes Modell trainiert und nicht nachtrainiert. Anwendungsfälle, die nach der KI-Verordnung als Hochrisiko gelten würden, sind ausgeschlossen.

Wann darf ein fremdes KI-Modell nach der Fallstudie genutzt werden?

Der HmbBfDI nimmt hin, dass das Modell aller Wahrscheinlichkeit nach nicht anonym ist. Dann gilt in der Regel Szenario 2 der EDSA-Stellungnahme 28/2024: Das Modell kann genutzt werden, wenn hinreichende risikominimierende Maßnahmen die Extraktion personenbezogener Daten verhindern. Der Fokus liegt auf dem KI-System, nicht auf dem Modell.

Ist die Fallstudie für Unternehmen verbindlich?

Nein. Sie ist die Auslegung einer Landesaufsicht zu einem Fall der öffentlichen Verwaltung, keine Rechtsnorm und kein Urteil. Dass die Erkenntnisse auf Verantwortliche im nicht-öffentlichen Bereich übertragbar seien, sagt der HmbBfDI selbst. Andere Aufsichten und Gerichte können abweichen.

Was sollte ein kleiner Betrieb jetzt regeln?

Die Fallstudie sagt nicht, welche Maßnahmen ein kleiner Betrieb umsetzen muss. Aus unserer Sicht liegen schriftliche Nutzungsregeln nahe: welche Daten eingegeben werden dürfen, wo ein Mensch das Ergebnis prüft und dass keine Entscheidung über Personen allein von der KI kommt. Das ist unsere Einordnung und keine Rechtsberatung; für den eigenen Betrieb klärt das der Datenschutzbeauftragte.

Wo ist im Betrieb schriftlich festgelegt, welche Daten in ein KI-Werkzeug dürfen?

Im kostenlosen KI-Schnupperkurs zeigen wir in fünf Lektionen, wie kleine und mittlere Firmen KI im Alltag einsetzen. Tiefer und praxisnah geht es im Vollkurs Digitalisierungsmanager, DEKRA-zertifiziert und förderfähig über den Bildungsgutschein.

Zuletzt aktualisiert: 11. November 2026. Stand der Recherche: 11. November 2026.