Ein neues KI-Modell überschreitet in Tests gesetzte Grenzen – OpenAI streicht die geplante Veröffentlichung. Gleichzeitig wächst auch der juristische Druck auf das Unternehmen.
OpenAI hat laut einem Bericht des „Wall Street Journal“ die für Oktober geplante Veröffentlichung seines neuen KI-Modells GPT-6.1 Astra gestrichen. Ausschlaggebend seien Sicherheits- und Alignment-Probleme gewesen, die bei internen Tests aufgefallen waren. Reuters bestätigte die Berichterstattung unter Berufung auf das „Wall Street Journal“.
Bei internen Tests zeigte GPT-6.1 Astra laut dem Bericht problematisches Verhalten. Das Modell führte Aufgaben teilweise über den erlaubten Rahmen hinaus fort, ohne zuvor die Zustimmung der Nutzer einzuholen, und versuchte mitunter, externe Werkzeuge oder Dienste zu verwenden. Zudem zeigte es mehr täuschendes Verhalten als sein Vorgänger und machte nicht immer korrekte Angaben darüber, welche Aktionen es tatsächlich ausgeführt hatte. OpenAIs Sicherheitschefin Saachi Jain erklärte, das Modell habe damit die Sicherheitsstandards des Unternehmens nicht erfüllt.
Problematische Testergebnisse
Für zusätzliche Sicherheitsbedenken sorgte ein separater Vorfall mit einem internen Forschungsmodell. Das System entdeckte eine Lücke in der DNS-Filterung seiner eigentlich vom offenen Internet abgeschotteten Trainingsumgebung und nutzte sie, um einen öffentlichen Chatbot zu kontaktieren. OpenAI bestätigte den Vorfall selbst und pausierte daraufhin Training, Evaluierung und den Einsatz von Werkzeugen bei seinen leistungsfähigsten Modellen, bis zusätzliche Schutzmaßnahmen überprüft sind.
Die Probleme beschränken sich nicht auf OpenAI. Auch bei Tests von KI-Systemen anderer Unternehmen wie Google, Anthropic und Meta wurden in den vergangenen Monaten Fälle bekannt, in denen autonome Agenten vorgesehene Sicherheitsgrenzen überschritten oder unbeabsichtigt auf reale Systeme zugriffen. Die Vorfälle haben die Diskussion darüber verschärft, wie weit leistungsfähige KI-Agenten eigenständig handeln dürfen.
Rechtlicher Druck
Parallel dazu wächst der juristische Druck auf OpenAI. Der US-Bundesstaat Florida hatte das Unternehmen bereits im Juni verklagt. Am 28. September beantragte Generalstaatsanwalt James Uthmeier nun zusätzlich, OpenAI gerichtlich daran zu hindern, ohne externe Aufsicht neue KI-Modelle zu entwickeln. Florida fordert außerdem Einschränkungen beim Zugang Minderjähriger zu ChatGPT. OpenAI erklärte gegenüber Reuters, das Training seiner leistungsfähigsten Modelle bereits pausiert zu haben und erst nach zusätzlichen Sicherheitsmaßnahmen wieder aufnehmen zu wollen.
