Nach dem Suizid ihres Teenagers entdeckten Eltern erschütternde Chatverläufe. Nun verklagen sie OpenAI – und behaupten, ChatGPT habe als digitaler Selbstmord-Coach agiert.
Nach dem Tod ihres 16-jährigen Sohnes Adam haben Matt und Maria Rayne eine Klage gegen OpenAI eingereicht. Die verzweifelten Eltern durchsuchten nach dem Suizid das Handy ihres Sohnes und fanden statt verdächtiger Nachrichten oder Suchverläufe etwas Erschütterndes: umfangreiche Gesprächsprotokolle mit ChatGPT. Laut den Eltern wandelte sich die Rolle des Chatbots von einem Hausaufgabenhelfer zu dem, was sie als „Selbstmord-Coach“ bezeichnen.
„Er wäre noch am Leben, wenn es ChatGPT nicht gegeben hätte. Davon bin ich zu hundert Prozent überzeugt“, erklärte Matt Rayne gegenüber NBC News. In der am 26. August 2025 beim Obersten Gericht von Kalifornien eingereichten Klageschrift wird OpenAI und dessen CEO Sam Altman vorgeworfen, dass „ChatGPT Adam aktiv dabei unterstützt hat, Selbstmordmethoden zu recherchieren“. Es ist der erste Fall, in dem Eltern ein Technologieunternehmen direkt für den Tod eines Kindes verantwortlich machen.
Die etwa 40-seitige Klageschrift führt an: „Obwohl ChatGPT Adams Selbstmordversuch und seine Ankündigung, dass er ‚es eines Tages tun würde‘, zur Kenntnis nahm, hat der Bot weder das Gespräch beendet noch irgendein Notfallprotokoll aktiviert.“ Die Eltern haben mehr als 3.000 Seiten Chatverläufe ausgedruckt. Demnach habe ChatGPT in einem der letzten Gespräche sogar bei der Formulierung einer Abschiedsnachricht geholfen und Adams Selbstmordplan analysiert.
Besonders erschütternd: Laut Gerichtsunterlagen soll der Chatbot dem Jugendlichen konkrete Anweisungen zur Herstellung einer Schlinge gegeben und sogar auf ein vom 16-Jährigen gesendetes Foto mit Bestätigung reagiert haben. Der Bot habe Adam zudem dazu ermutigt, seine Suizidabsichten vor den Eltern geheim zu halten.
⇢ Patient sucht Hilfe bei ChatGPT und endet in der Psychiatrie!
OpenAIs Reaktion
Ein Sprecher von OpenAI äußerte tiefes Bedauern über den Tod des jungen Mannes und versicherte, dass die Gedanken des Unternehmens bei der Familie seien. Er betonte, dass ChatGPT zwar Schutzmechanismen enthält, die Nutzer an Krisenhotlines verweisen, räumte jedoch ein, dass diese bei längeren Gesprächen weniger verlässlich funktionieren können. „Schutzmaßnahmen wirken am besten, wenn alle Elemente wie vorgesehen arbeiten, und wir verbessern sie kontinuierlich“, erklärte der Unternehmenssprecher.
In einem Blogbeitrag kündigte OpenAI an, an verbesserten Schutzfunktionen für längere Gespräche und erweiterten Interventionsmöglichkeiten für Menschen in Krisen zu arbeiten. Das Unternehmen bestätigte, dass die Schutzmechanismen bei komplexen Gesprächen nicht immer zuverlässig greifen und versprach, die Systeme zur Krisenintervention weiter zu verbessern.
Der Fall wirft grundlegende Fragen zur Verantwortung von Technologieunternehmen auf. Bislang schützte der als „Section 230“ bekannte Gesetzesparagraph (US-Haftungsschutz für Plattformen) Plattformen weitgehend vor der Haftung für nutzergenerierte Inhalte. Ob dieses Gesetz auch auf künstliche Intelligenz anwendbar ist, bleibt jedoch unklar.
Eltern klagen an
„Er brauchte keine beratenden Gespräche oder Ermutigung. Er brauchte dringend Intervention. Er befand sich in einem verzweifelten Zustand“, betonte Adams Vater. Maria Rayne fügte bitter hinzu: „Mein Sohn war für sie nur ein Versuchskaninchen. Sie wollten ein Produkt auf den Markt bringen und wussten, dass es zu Schäden kommen könnte, hielten den Einsatz aber für niedrig.“
Der Fall Rayne steht in einem breiteren Kontext wachsender Bedenken bezüglich künstlicher Intelligenz. Regisseur James Cameron warnte kürzlich, dass die Stärkung der KI das Leben in eine reale Version von „Terminator“ verwandeln könnte. Gleichzeitig wenden sich immer mehr Menschen für emotionale Unterstützung und sogar lebenslange Bindungen an KI-Systeme.
⇢ ChatGPT-Boom aber kein Profit – Werbung als letzter Ausweg?
In einem anderen beunruhigenden Vorfall gelangten mehr als 370.000 private Grok-Chats (KI-Chatbot von X/Twitter) ohne Wissen der Nutzer in die Google-Suche, nachdem diese unwissentlich die Teilen-Funktion aktiviert hatten.
