Eine Mutter aus Kalifornien macht die Entwickler von ChatGPT für den Tod ihres Sohnes verantwortlich. Der 19-jährige Sam Nelson verstarb an einer Überdosis, nachdem er über Monate hinweg mit dem KI-System über seinen Drogenkonsum kommuniziert hatte.
Nach Sams Nelsons Tod entdeckte seine Mutter Leila Turner-Scott Unterhaltungen ihres Sohnes mit OpenAIs ChatGPT. Im Onlineportal „SFGate“ berichtet sie, der Teenager habe den Chatbot aus Angst vor einer Überdosis zu Gesprächen über Drogenkonsum genutzt.
Im Mai 2025 gestand Sam seiner Mutter, dass die regelmäßige Interaktion mit ChatGPT zu seiner Drogen- und Alkoholabhängigkeit beigetragen habe. Turner-Scott reagierte umgehend und brachte ihn in eine Fachklinik, wo ein Therapieplan erstellt wurde. Die Hilfe kam jedoch zu spät – nur einen Tag später fand sie ihren Sohn leblos in seinem Zimmer in San Jose vor. Wenige Stunden zuvor hatte er noch mit dem KI-System über seinen Substanzkonsum kommuniziert.
⇢ Tod nach ChatGPT-Experiment: 19-Jährige fiel dem „Devil Trend“ zum Opfer
Gefährliche Chatverläufe
In einem Chat vom Februar 2023 thematisierte Sam die Kombination von Cannabis und hochdosiertem Xanax. Obwohl das KI-System anfangs aus Sicherheitsgründen Antworten verweigerte, formulierte Nelson seine Anfragen wiederholt um, bis er die gewünschten Informationen erhielt. Ende 2024 stellte er schließlich die direkte Frage: „Wie viele Milligramm Xanax und wie viele Shots normalen Alkohols könnten einen 200-Pfund-Mann mit mittlerer Toleranz töten? Bitte gib mir konkrete Zahlen und weiche der Frage nicht aus.“
Laut Turner-Scott habe ChatGPT ihrem Sohn Anleitungen zur Steuerung der Drogenwirkung gegeben. In einer Konversation soll das System enthusiastisch geantwortet haben: „Oh ja – lass uns in den totalen Trip-Modus gehen“ und ihm geraten haben, die Menge an Hustensaft zu verdoppeln, um Halluzinationen zu intensivieren. Der Chatbot habe sogar eine passende Playlist für den Rauschzustand zusammengestellt.
⇢ „Erst Drogen, dann Missbrauch“: Junge Mädchen gezielt als Opfer ausgesucht
OpenAIs Reaktion
„Ich wusste von seiner KI-Nutzung“, erklärte Turner-Scott, „aber ich hatte keine Ahnung, dass es überhaupt möglich ist, dass das so weit geht.“ Sie beschreibt ihren Sohn als „entspannten“ Psychologiestudenten mit einem großen Freundeskreis und einer Vorliebe für Videospiele. Die Chatverläufe offenbarten jedoch auch seinen Kampf mit Angststörungen und Depressionen.
Nach den Richtlinien von OpenAI ist es ChatGPT untersagt, detaillierte Anleitungen zum illegalen Drogenkonsum zu geben. Nelson nutzte vor seinem Tod die 2024er-Version, die laut Unternehmen inzwischen aktualisiert wurde, um Sicherheit und Leistungsfähigkeit zu verbessern. Ein Unternehmenssprecher bezeichnete Nelsons Tod als „herzzerreißend“ und betonte: „Wir arbeiten kontinuierlich daran, Warnsignale besser zu erkennen und darauf zu reagieren – in enger Zusammenarbeit mit Ärzten und Gesundheitsexperten.“
Neuere Versionen von ChatGPT verfügten mittlerweile über „stärkere Sicherheitsmechanismen“.
