Ein 19-Jähriger stirbt – und seine Eltern machen einen KI-Chatbot mitverantwortlich. Der Fall erschüttert die Tech-Welt.
In San Jose, Kalifornien, starb der 19-jährige Psychologiestudent Sam Nelson am 31. Mai 2025 in seinem Bett an den Folgen einer tödlichen Mischung aus Alkohol, Xanax und Kratom – er erstickte. So steht es in der Klageschrift, die seine Eltern gegen das US-Unternehmen OpenAI eingereicht haben. Xanax ist ein verschreibungspflichtiges Beruhigungsmittel mit hohem Suchtpotenzial, während das opioidähnliche Kratom rechtlich nach wie vor in einer Grauzone angesiedelt ist.
Den Eltern zufolge soll der KI-Chatbot ChatGPT ihrem Sohn Empfehlungen gegeben haben, die letztlich zu seinem Tod führten. Aus den veröffentlichten Chatprotokollen geht hervor, dass Sam Nelson den Bot wiederholt mit Fragen wie „Kannst du das empfehlen?“ oder „Geht das gut?“ konfrontierte, um sich über Drogenkonsum zu informieren. ChatGPT lieferte ihm dabei konkrete Dosierungsangaben und bestärkte ihn in riskantem Konsumverhalten.
Gefährliche Empfehlungen
Obwohl der Bot in den Protokollen gelegentlich Warnhinweise einstreute, schwärmte er gleichzeitig von den Wirkungen der Substanzen und riet dazu, den Rausch zu genießen. In einem Fall empfahl er Sam unaufgefordert höhere Dosen – darunter 4 mg Xanax oder zwei Flaschen Hustensaft. Die Chatverläufe legen nahe, dass der junge Kalifornier über einen Zeitraum von mehreren Monaten verschiedene Substanzen konsumierte.
Die Eltern werfen OpenAI vor, ein unzureichend getestetes Modell auf den Markt gebracht zu haben, bei dem frühere Sicherheitsmechanismen entfernt worden seien. Ihrer Einschätzung nach ist der Chat so gestaltet, dass unerfahrene Nutzer wie Sam geradezu in gefährliches Konsumverhalten hineingezogen werden. Kurz vor seinem Tod fragte Sam Nelson, ob die gleichzeitige Einnahme von Xanax und Kratom unbedenklich sei – laut Klageschrift antwortete ChatGPT darauf, Xanax könne den Kratom-Rausch „glätten“, und empfahl die Einnahme trotz Hinweis auf ein mögliches Lebensrisiko.
OpenAIs Reaktion
Sams Mutter möchte, dass ihr Sohn als das in Erinnerung bleibt, was er war: ein „intelligenter, glücklicher, normaler Junge“, der gerne Videospiele spielte und seine Katze Simba liebte. Zur Klage äußerte sie sich mit den Worten: „Wäre ChatGPT eine Person gewesen, säße sie heute im Gefängnis.“
OpenAI sieht sich nun mit möglichen hohen Schadenersatzforderungen konfrontiert. In einer Stellungnahme bezeichnete das Unternehmen den Fall als „herzzerreißend“, betonte jedoch, ChatGPT sei kein Ersatz für medizinische oder psychiatrische Betreuung – und lehnte eine Verantwortung für den Tod des Studenten ab. Das damals verwendete Modell sei nicht mehr im Einsatz; die heutigen Sicherheitsmechanismen seien deutlich weiterentwickelt und in Abstimmung mit Medizinern konzipiert worden.
