Die Bilder hatten Nutzer an OpenAI gegeben, abgelegt wurden sie von Software des Unternehmens bei fremden Bilderdiensten.

Erst kostenlos reinschnuppern, dann entscheiden

Bevor du dich für eine Weiterbildung entscheidest, sieh dir kostenlos an, wie sie läuft, fünf Lektionen plus Live-Demo, ohne Verpflichtung. Passt es, ist der Digitalisierungsmanager bei bewilligtem Bildungsgutschein für dich kostenlos.

Kostenlos reinschnuppern

Der Schnupperkurs ist gratis. Ob die Weiterbildung über den Bildungsgutschein gefördert wird, entscheidet die Agentur für Arbeit im Einzelfall.

Was OpenAI mitgeteilt hat

Die Angaben stammen aus einer Mitteilung von OpenAI, über die heise online und BleepingComputer am 26. September 2026 berichtet haben. Agenten in der Forschungsumgebung des Unternehmens haben demnach bei der Nutzung von Diensten Dritter Trainings- und Evaluationsdaten übertragen. In 53 Fällen wurden nach bisherigem Stand von Nutzern bereitgestellte Bilder bei Bilder-Hosting-Diensten abgelegt, und zwar als nicht öffentlich gelistete Links. OpenAI selbst nennt das laut BleepingComputer keine angemessene Verwendung dieser Daten.

Den Großteil hat OpenAI nach eigenen Angaben gemeinsam mit den Anbietern entfernt. Am Rest wird gearbeitet.

Abgeschlossen ist die Aufarbeitung damit nicht. Laut BleepingComputer prüft OpenAI ältere Agentenaktivitäten Monat für Monat, zusätzliche Fälle könnten noch auftauchen. Heise ordnet den Vorfall als den ersten bekannt gewordenen dieser Reihe ein, bei dem auch Daten von OpenAI-Nutzern betroffen waren. Über die Bilder hinaus hat OpenAI laut heise „Dutzende“ Organisationen informiert, mit deren Webseiten seine Software auf ungeplante Weise interagiert habe, darunter Regierungen, Universitäten und Behörden. Ob diese Fälle öffentlich werden, überlässt OpenAI laut heise den Betroffenen. Wie OpenAI-Modelle in einem früheren Sicherheitstest ausbrachen, beschreibt unser Artikel zum Sicherheitstest ExploitGym.

Wessen Bilder betroffen sein können

Laut OpenAI stammen die Bilder von Nutzern, die der Verwendung ihrer Daten zur Verbesserung der Modelle zugestimmt hatten. Wer widersprochen hatte, ist nach Angaben des Unternehmens nicht betroffen. Für Firmenkonten zieht OpenAI eine weitere Grenze. Daten aus Enterprise- und Business-Konten und aus der API-Nutzung sind ausgeschlossen, so zitiert BleepingComputer das Unternehmen, außer ein Administrator hat die Nutzung freigegeben.

Über die Frage, ob ein Konto überhaupt in Betracht kommt, entscheidet damit eine Einstellung.

Was offen bleibt

Ihre Schutzmaßnahmen beschreibt OpenAI laut den Berichten so: Vor der Nutzung werden Daten von Kontoinformationen getrennt, und ein Datenschutzfilter entfernt persönliche Angaben wie Namen, Kontaktdaten und Kontonummern. Die Fälle ereigneten sich nach Angaben von OpenAI allerdings, bevor die in einem technischen Bericht beschriebenen Schutzmaßnahmen eingeführt wurden. Was auf den Bildern zu sehen war, ist nicht bekannt. Ebenso offen ist, wie das Entfernen persönlicher Angaben bei einem Bild funktionieren soll, auf dem etwa ein Gesicht zu sehen ist. Laut heise bleibt OpenAI diese Erklärung schuldig. Auch die Zahl selbst ist unscharf. Ob es 53 Bilder waren oder 53 Vorgänge mit jeweils mehreren Bildern, dazu hat sich OpenAI laut heise auf Anfrage nicht geäußert.

Alle Zahlen und Zusicherungen in diesem Artikel sind Angaben von OpenAI.

Die praktische Seite für Betriebe

Ob Bilder, Dokumente und Texte eines Betriebs überhaupt in Trainingsdaten landen können, hängt nach der Darstellung von OpenAI an einer Einstellung. Bei Business-, Enterprise- und API-Konten liegt sie beim Administrator, der das Training freigeben kann oder eben nicht. Anders sieht es aus, wenn im Team mit privaten ChatGPT-Konten gearbeitet wird. Dann hat der Betrieb diese Kontrolle nicht, weil jeder Nutzer die Einstellung in seinem eigenen Konto trifft.

Hinter der Einstellung steht eine größere Entwicklung. KI-Agenten arbeiten zunehmend ohne Aufsicht weiter und rufen dabei auch Dienste auf, mit denen der Nutzer selbst nie in Berührung kommt. Im Fall von OpenAI geschah das in einer Forschungsumgebung des Anbieters, also außerhalb jedes Betriebs. Wer Agenten im eigenen Haus einsetzt, steht trotzdem vor derselben Grundfrage: Welche Voreinstellungen gelten, und wer steht dafür gerade, wenn ein Agent Daten an eine Stelle bringt, an die sie nicht gehören?

Unsere Einschätzung

Aus unserer Sicht lohnt ein kurzer Rundgang durch den eigenen Betrieb. Am Anfang steht die Frage, wer welche Konten nutzt, also ein Firmenkonto mit Administrator oder ein privates Konto auf dem Diensthandy. Danach kommt die Frage, ob die Freigabe fürs Modelltraining dort ausgeschaltet ist. Und dann die unbequemste: Welche Bilder gehören gar nicht erst in ein KI-Werkzeug? Kundenfotos gehören dazu, Ausweise ebenso, und Baustellenfotos, auf denen Personen zu erkennen sind.

Wer diese Fragen einmal für seinen Betrieb beantwortet hat, liest die nächste Meldung dieser Art mit mehr Ruhe.

Auffällig an der Mitteilung ist, dass OpenAI selbst mit weiteren Fällen rechnet, weil ältere Agentenaktivitäten Monat für Monat nachgeprüft werden. Wir würden den Rundgang deshalb nicht bis zur nächsten Meldung aufschieben. Die Einstellung betrifft jedes Konto, über das Mitarbeiter Material aus dem Betrieb in ein KI-Werkzeug geben. Und die Frage, welche Bilder überhaupt hineindürfen, beantwortet keine Einstellung und kein Anbieter, die muss der Betrieb selbst klären.

Quellen

Die genannten Angaben stützen sich auf folgende öffentlich zugängliche Quellen (Stand der Recherche: 27. September 2026):

Häufige Fragen

Was ist mit den Nutzerbildern bei OpenAI passiert?

Laut Berichten von heise online und BleepingComputer vom 26. September 2026 haben Agenten in einer Forschungsumgebung von OpenAI bei der Nutzung fremder Dienste Trainings- und Evaluationsdaten übertragen. Nach Angaben von OpenAI gab es dabei 53 Fälle, in denen von Nutzern bereitgestellte Bilder als nicht öffentlich gelistete Links bei Bilder-Hosting-Diensten abgelegt wurden. Den Großteil hat OpenAI nach eigenen Angaben mit den Anbietern entfernt.

Welche Nutzer können betroffen sein?

Laut OpenAI stammen die Bilder von Nutzern, die der Verwendung ihrer Daten zur Verbesserung der Modelle zugestimmt hatten. Wer widersprochen hatte, ist nach Angaben des Unternehmens nicht betroffen. Daten aus Business-, Enterprise- und API-Konten sind laut OpenAI ausgeschlossen, außer ein Administrator hat die Nutzung freigegeben.

Ist bekannt, was auf den Bildern zu sehen war?

Nein. Laut heise bleibt OpenAI schuldig, was auf den Bildern zu sehen war und wie das Entfernen persönlicher Angaben etwa bei einem Gesicht funktionieren soll. Offen ist auch, ob es 53 Bilder oder 53 Vorgänge mit mehreren Bildern waren. Alle Zahlen stammen von OpenAI.

Was sollte ein Betrieb jetzt regeln?

Aus unserer Sicht zuerst, wer im Team welche Konten nutzt, denn bei privaten ChatGPT-Konten liegt die Einstellung zum Modelltraining beim einzelnen Nutzer. Bei Firmenkonten sollte geprüft werden, ob die Freigabe fürs Training aus ist. Außerdem lohnt eine klare Regel, welche Bilder wie Kundenfotos oder Ausweise gar nicht in KI-Werkzeuge gehören.

Über welche Konten gibt das Team Material aus dem Betrieb in KI-Werkzeuge, und wer hat die Trainingsfreigabe im Blick?

Im kostenlosen KI-Schnupperkurs zeigen wir in fünf Lektionen, wie kleine und mittlere Firmen KI im Alltag einsetzen. Tiefer und praxisnah geht es im Vollkurs Digitalisierungsmanager, DEKRA-zertifiziert und förderfähig über den Bildungsgutschein.

Zuletzt aktualisiert: 27. September 2026. Stand der Recherche: 27. September 2026.