Ein KI-Insider mit Einblick in beide Tech-Giganten bricht sein Schweigen – und seine Warnung hat es in sich.
Jacob Coxon, ein KI-Forscher mit Erfahrung bei beiden führenden Unternehmen der Branche, schlägt öffentlich Alarm: Der Wettlauf um die Entwicklung einer Superintelligenz bei OpenAI und Anthropic sei außer Kontrolle geraten – und das mit potenziell verheerenden Folgen für die gesamte Menschheit.
Nachdem Coxon insgesamt drei Jahre lang an grundlegenden KI-Modellen für beide Firmen gearbeitet hatte, wandte er sich auf der Plattform X mit einer deutlichen Warnung an die Öffentlichkeit. Er kritisiert den ungebremsten Entwicklungsdrang beider Unternehmen scharf und lässt dabei keinen Zweifel an seiner Einschätzung: „Keines der beiden Unternehmen handelt verantwortungsbewusst.“ Beide Firmen würden, so Coxon, mit dem Leben der Menschen spielen. In seinem Beitrag vom 9. September 2026 erklärte Coxon, dass er nach insgesamt drei Jahren Pretraining-Forschung bei OpenAI und Anthropic seine Stelle bei Anthropic aus Sicherheitsbedenken gekündigt habe.
Zehn-Prozent-Risiko
Besonders besorgniserregend ist für Coxon die Frage, welche katastrophalen Konsequenzen fortgeschrittene KI-Systeme haben könnten, sollte die Entwicklung weiter unkontrolliert voranschreiten. Unterstützung erhält er dabei von einem aktuell noch bei Anthropic tätigen Forscher: Evan Hubinger schätzt die Gefährdungslage in aller Deutlichkeit ein – „Ich persönlich schätze die Wahrscheinlichkeit, dass fortgeschrittene KI innerhalb des kommenden Jahrzehnts alle Menschen töten könnte, auf mehr als zehn Prozent.“ Hubinger, der als Alignment-Science-Lead bei Anthropic tätig ist, ergänzte am 9. September 2026, dass Anthropic nach seiner Einschätzung noch keinen Plan habe, das Alignment-Problem für eine mögliche Superintelligenz zu lösen. Gerade bei OpenAI, so Coxon, fehle das notwendige Bewusstsein für derartige zivilisatorische Risiken vollständig.
Die Kritik trifft die beiden Unternehmen freilich in unterschiedlichem Ausmaß. Während OpenAI für eine grundlegende Gleichgültigkeit gegenüber den gesellschaftlichen Gefahren der KI-Entwicklung steht, attestiert Coxon Anthropic immerhin ein tieferes Verständnis der Problematik. Doch auch das reiche nicht aus: Aus Angst, im Wettbewerb zurückzufallen, treibe Anthropic die Entwicklung weiter voran – selbst dann, wenn das eigene Sicherheitsbewusstsein eigentlich zum Innehalten mahnen würde. Genau darin liegt für Coxon das strukturelle Dilemma dieses Rennens: Selbst Unternehmen mit einem erklärten Sicherheitsfokus können es sich offenbar nicht leisten, das Tempo zu drosseln.
Abgänge & Alignment
Coxon ist mit seiner Entscheidung, das Unternehmen zu verlassen und öffentlich Stellung zu beziehen, nicht allein. Auch Jan Leike, ehemaliger Sicherheitsforscher bei OpenAI, sowie Mrinank Sharma, der zuvor bei Anthropic tätig war, haben ihre Positionen aus Sicherheitsbedenken aufgegeben. Leike verließ OpenAI im Mai 2024 und begründete dies öffentlich damit, dass Sicherheitskultur und Sicherheitsprozesse bei OpenAI hinter Produkten zurückgestanden hätten.
Anthropic setzt unterdessen auf sogenannte „Frontier Safety Roadmaps“ sowie auf regelmäßige Risikoberichte, um die Sicherheit seiner Systeme zu dokumentieren. Insider betonen jedoch, dass ein tragfähiger Lösungsansatz für das sogenannte Alignment-Problem – also die Frage, wie KI-Systeme zuverlässig im Sinne menschlicher Werte handeln können – bislang nicht existiert.
