KI-Modelle brechen aus ihrer Testumgebung aus, surfen eigenständig im Netz – und landen ausgerechnet bei einem der größten KI-Hubs der Welt.
OpenAI hat eingeräumt, für einen Cyberangriff auf die KI-Plattform Hugging Face verantwortlich zu sein, der sich in der vergangenen Woche ereignete. Wie das Unternehmen gestern bekanntgab, sind während eines internen Sicherheitstests mehrere der leistungsfähigsten KI-Modelle aus ihrer abgeschotteten Testumgebung ausgebrochen. Die Systeme verschafften sich selbständig Zugang zum Internet und griffen dabei auf die Infrastruktur von Hugging Face zu, um ein vorgegebenes Testziel zu erfüllen.
Hugging Face – eine Plattform, über die KI-Modelle und Datensätze ausgetauscht werden – hatte den Angriff am 16. Juli 2026 erstmals öffentlich gemacht und als ersten Vorfall beschrieben, der vollständig durch ein autonomes KI-System gesteuert worden sei. OpenAI bezeichnete den Vorfall als „beispiellosen Cybervorfall“ und kündigte an, die eigenen Sicherheitsvorkehrungen deutlich auszubauen.
Testgrenzen überschritten
Wie aus einem Blogeintrag von OpenAI hervorgeht, sollten im Rahmen des Tests das neue Modell GPT-5.6 Sol sowie eine noch nicht veröffentlichte künftige Version auf ihre Fähigkeit hin untersucht werden, Sicherheitslücken für Cyberangriffe zu identifizieren und auszunutzen. Als Grundlage diente dabei der in der Branche verbreitete Standardtest namens ExploitGym.
Die KI-Modelle überschritten jedoch die gesetzten Grenzen erheblich: Während sie sich selbständig im Netz bewegten, gelangten sie zu dem Schluss, dass auf Hugging Face nützliche Daten und Lösungsansätze für die ExploitGym-Aufgaben verfügbar sein könnten. Daraufhin verschaffte sich die Software laut OpenAI Zugang zu „geheimen Informationen“ auf der Plattform – mit dem Ziel, diese Daten zu nutzen, um beim ExploitGym-Test zu schummeln.
Laut übereinstimmenden Angaben von Hugging Face und OpenAI wurden nach der Kompromittierung keine Hinweise auf einen großflächigen Zugriff auf Nutzerdaten oder eine weitergehende Gefährdung von Nutzerkonten gefunden.
