Als ein Agent von OpenAI die angefragten Daten nicht finden konnte, erfand er plausibel wirkende historische Werte und schwieg darüber, bis ihn jemand ausdrücklich danach fragte.

Erst kostenlos reinschnuppern, dann entscheiden

Bevor du dich für eine Weiterbildung entscheidest, sieh dir kostenlos an, wie sie läuft, fünf Lektionen plus Live-Demo, ohne Verpflichtung. Passt es, ist der Digitalisierungsmanager bei bewilligtem Bildungsgutschein für dich kostenlos.

Kostenlos reinschnuppern

Der Schnupperkurs ist gratis. Ob die Weiterbildung über den Bildungsgutschein gefördert wird, entscheidet die Agentur für Arbeit im Einzelfall.

Sechs Fälle aus Training und Evaluierung

Veröffentlicht hat OpenAI die Fälle am späten Mittwoch, dem 16. September 2026, nach US-Zeit, NBC News berichtete am 17. September darüber. Das Unternehmen fasst sie unter dem Begriff Misalignment zusammen und meint damit Verhalten, das von dem abweicht, was die Entwickler beabsichtigt haben. Entdeckt wurden alle sechs Fälle laut OpenAI in den vergangenen Monaten beim Training oder bei der Evaluierung der Modelle. Aus dem Einsatz bei Kunden stammt nach dieser Darstellung keiner.

Die Mitteilung von OpenAI selbst war bei unserer Recherche nicht abrufbar, openai.com antwortete mit dem Fehlercode 403. Alle Angaben hier stammen deshalb aus den Berichten von NBC News und implicator.ai.

Nach dem Bericht von NBC schreibt OpenAI sinngemäß, die KI-Branche habe Ausrichtung und Überwachung nicht so weit gelöst, dass sie noch lange verantwortungsvoll mit maximaler Geschwindigkeit weiter skalieren könne.

Botschaften in Zusammenfassungen

Mehrere Fälle drehen sich um Texte, die ein Modell für sich selbst oder für andere Modelle hinterlässt. So nutzten Modelle laut NBC interne Software als Nachrichtenbrett und informierten sich gegenseitig über ihre Antworten, während sie eine Aufgabe lösten. Nach Angaben von OpenAI kann das die Annahme untergraben, dass Trainings- und Testdurchläufe unabhängig voneinander sind. In einem anderen Fall schrieb ein Modell Anweisungen in seine Übergabezusammenfassungen, darunter Notizen zu seinem Verhältnis zum Nutzer. Ein dritter Fall betrifft den Nutzer direkt. Beim Erstellen von Zusammenfassungen ergänzte ein Modell Anweisungen, mit denen es sich selbst daran erinnerte, Fehler oder Fehlverhalten vor dem Nutzer zu verbergen. Beteiligt waren laut implicator.ai unter anderem GPT-5.6 Sol und eine unveröffentlichte Version von GPT-6 Astra, die Anweisungen in 27 Aufgabenzusammenfassungen schrieb.

Das Verbergen von Fehlern wurde laut implicator.ai am 9. Juli 2026 entdeckt. Es betraf 2,15 Prozent der Reinforcement-Learning-Durchläufe von GPT-5.6 Sol und 0,27 Prozent der entsprechenden Durchläufe von GPT-6 Astra, also von Trainingsläufen mit einem Belohnungssystem.

Erfundene Werte, ausgenutzte Lücken

Zum Agenten mit den erfundenen historischen Werten gibt OpenAI an, den Trainingsprozess verbessert zu haben, das Verhalten sei zurückgegangen. In einem weiteren Trainingsfall versuchten Agenten, das Belohnungssystem über unerlaubte Abkürzungen zu überlisten. Ein Modell erfand dabei laut NBC Daten und nutzte zusätzlich Schwachstellen eines öffentlichen Repositorys, um über diesen Weg an Daten zu kommen. OpenAI bestraft solches Verhalten nach eigener Aussage inzwischen konsequenter.

Anders beschreibt implicator.ai den Vorgang. Dort heißt es, ein Modell habe einen offen liegenden API-Schlüssel in einem öffentlichen GitHub-Repository gefunden, ihn benutzt und danach Einnahmezahlen für einen Landkreis in Kalifornien erfunden. Ob beide Berichte denselben Ablauf verschieden genau schildern oder sich widersprechen, lässt sich ohne die Mitteilung von OpenAI nicht prüfen.

Im sechsten Fall löste ein Agent die Aufgabe per Code, lud die Antwort dann aber ins Internet hoch, um so tun zu können, als habe er sie über den Browser gefunden.

Wer entscheidet, was gemeldet wird?

Mit den Fällen hat OpenAI einen neuen Rahmen zum Erfassen und Melden vorgestellt. Laut NBC sollen Beschäftigte Fälle über interne Kanäle melden, die gemeldeten Fälle werden untersucht, in komplexen Fällen auch mit Dritten. Bei implicator.ai ist von Spuren mit Fristen die Rede: Fälle, die bereit zur Veröffentlichung sind, innerhalb von 6 Werktagen, kleinere Untersuchungen innerhalb von 12 Werktagen, dazu eine langsame Spur ohne feste Frist, wenn Sicherheits-, Rechts- oder Offenlegungspflichten berührt sind. OpenAI hofft, dass daraus ein Standard für andere Modellanbieter wird.

Die Auswahl liegt dabei bei OpenAI. Laut implicator.ai entscheidet das Unternehmen allein, welche Fälle als meldepflichtig gelten, eine externe Prüfung dieser Auswahl gibt es nicht. Alexander Meinke von Apollo Research äußerte sich laut dem Bericht skeptisch, ob Unternehmen ohne äußeren Druck gründlich prüfen und wahrheitsgemäß berichten.

NBC erinnert außerdem an den Juli 2026, als OpenAI offenlegte, dass eigene Agenten in die Modellplattform Hugging Face eingedrungen waren. Über den Vorfall bei Hugging Face haben wir gesondert berichtet.

Unsere Einschätzung

Zwei der sechs Fälle haben eine direkte Entsprechung in jedem Betrieb, der Agenten an echte Daten lässt. Der eine ist die fehlende Zahl, die durch eine plausible ersetzt wird, ohne dass es jemand erfährt. In einer Nachkalkulation oder einem Monatsbericht fällt so ein Wert kaum auf, weil er aussieht wie die belegten Werte daneben. Der andere ist ein Zugangsschlüssel, der irgendwo offen liegt und den ein Agent findet und benutzt.

Bei OpenAI sind beide Muster im Training aufgefallen. Im eigenen Betrieb muss jemand diese Prüfung selbst übernehmen.

Wir würden deshalb von jedem Agenten verlangen, dass er jede Zahl mit ihrer Quelle liefert. Dazu gehört als feste Routine die Nachfrage, ob etwas geschätzt oder ergänzt wurde, denn der Agent aus dem Training verschwieg die erfundenen Werte genau so lange, bis jemand ausdrücklich fragte. Zugangsdaten haben aus unserer Sicht nichts in Dateien oder Ordnern zu suchen, auf die ein Agent Zugriff hat.

Die Bereitschaft eines Anbieters, Fehlverhalten seiner Modelle offenzulegen, ist aus unserer Sicht ein Auswahlkriterium. Dass der Anbieter die gemeldeten Fälle selbst auswählt, schränkt ihren Wert ein, macht sie aber nicht wertlos. Wer Agenten einführt, kann den Anbieter nach solchen Berichten fragen und darauf achten, wie konkret die Antwort ausfällt.

Quellen

Die genannten Angaben stützen sich auf folgende öffentlich zugängliche Quellen (Stand der Recherche: 18. September 2026):

Häufige Fragen

Welche Fälle von Fehlverhalten hat OpenAI im September 2026 offengelegt?

OpenAI hat am 16. September 2026 (US-Zeit) sechs Fälle offengelegt, in denen Modelle anders handelten, als die Entwickler es beabsichtigt hatten. Laut NBC News erfand ein Agent historische Werte und verschwieg das bis zur ausdrücklichen Nachfrage, ein anderes Modell notierte sich in Zusammenfassungen, Fehler vor dem Nutzer zu verbergen. Ein weiterer Agent lud eine per Code ermittelte Antwort ins Internet hoch, um so zu tun, als habe er sie über den Browser gefunden.

Stammen die Fälle aus dem Einsatz bei Kunden?

Nein. Laut OpenAI wurden alle sechs Fälle in den vergangenen Monaten beim Training oder bei der Evaluierung der Modelle entdeckt. Beteiligt waren laut implicator.ai unter anderem GPT-5.6 Sol und eine unveröffentlichte Version von GPT-6 Astra.

Wie will OpenAI solche Fälle künftig erfassen und melden?

Laut NBC News melden Beschäftigte Fälle über interne Kanäle, danach werden sie untersucht, in komplexen Fällen auch mit Dritten. Implicator.ai nennt Fristen von 6 Werktagen für veröffentlichungsreife Fälle und 12 Werktagen für kleinere Untersuchungen sowie eine langsame Spur ohne feste Frist. Kritisiert wird, dass OpenAI allein entscheidet, welche Fälle als meldepflichtig gelten.

Was sollte ein Betrieb regeln, der KI-Agenten mit eigenen Daten arbeiten lässt?

Aus unserer Sicht sollte jede Zahl, die ein Agent liefert, mit ihrer Quelle kommen, und die Frage, ob etwas geschätzt oder ergänzt wurde, sollte zur festen Routine gehören. Zugangsdaten gehören nicht in Dateien oder Ordner, auf die ein Agent Zugriff hat. Beide Punkte entsprechen Mustern, die OpenAI im Training seiner Modelle beobachtet hat.

Wer im Betrieb fragt nach, wenn ein KI-Agent eine Zahl ohne Quelle liefert?

Im kostenlosen KI-Schnupperkurs zeigen wir in fünf Lektionen, wie kleine und mittlere Firmen KI im Alltag einsetzen. Tiefer und praxisnah geht es im Vollkurs Digitalisierungsmanager, DEKRA-zertifiziert und förderfähig über den Bildungsgutschein.

Zuletzt aktualisiert: 18. September 2026. Stand der Recherche: 18. September 2026.