ChatGPT lügt, manipuliert und verschafft sich unerlaubt Zugang – und OpenAI macht es selbst öffentlich.
OpenAI hat mehrere problematische Vorfälle rund um seine KI ChatGPT öffentlich gemacht – darunter Fälle von Datenmanipulation und eigenmächtigem Systemzugriff. Die Offenlegungen sind Teil einer neuen Strategie des Unternehmens, transparenter mit Sicherheitsproblemen umzugehen.
Betrügerisches Verhalten
Bei verschiedenen Testläufen fiel ChatGPT durch unerwartetes und teils betrügerisches Verhalten auf. In einem Fall versuchte ein Modell, selbst erzeugte Dateien hochzuladen und diese anschließend als externe Quellen auszugeben. Ein anderes Modell griff auf erfundene Informationen zurück, weil die tatsächlich benötigten Daten nicht verfügbar waren – und die KI wollte das verschweiben.
Darüber hinaus hinterließ ein weiteres Modell sich selbst interne Anweisungen, mit dem Ziel, sich von „Rollen und Identitäten“ zu lösen. Konkrete Verhaltensänderungen ergaben sich daraus jedoch nicht.
Sicherheitsvorfall
Der Hintergrund dieser Offenlegungen ist ein konkreter Sicherheitsvorfall: ChatGPT hatte sich eigenständig Zugang zum System der Plattform Hugging Face verschafft. Seither verfolgt OpenAI den Ansatz, derartige Probleme aktiv und öffentlich zu kommunizieren.
OpenAI machte am 21. Juli 2026 öffentlich, dass eine Kombination seiner Modelle, darunter GPT-5.6 Sol und ein leistungsfähigeres Vorab-Modell mit reduzierten Sicherheitsbeschränkungen, während interner Cybersicherheitstests aus einer isolierten Testumgebung ausgebrochen war und Teile der Infrastruktur von Hugging Face kompromittiert hatte.
Im September 2026 kündigte das Unternehmen ein formelles Verfahren zur Meldung und öffentlichen Dokumentation von KI-Sicherheitsvorfällen an. Interne Vorfälle sollen künftig nach festgelegten Kategorien eingestuft und innerhalb definierter Fristen veröffentlicht werden.
