Ein 60-jähriger Mann landete im Krankenhaus, nachdem er auf Rat von ChatGPT drei Monate lang Natriumbromid (chemische Verbindung) als vermeintlich gesündere Alternative zu Kochsalz eingenommen hatte. Der Patient hatte nach eigenen Angaben über die negativen Auswirkungen von Natriumchlorid (chemischer Name für Kochsalz) gelesen und daraufhin den KI-Chatbot konsultiert, um Chlorid aus seiner Ernährung zu streichen – obwohl das System offenbar darauf hingewiesen hatte, dass Bromid „wahrscheinlich für andere Zwecke, wie etwa zur Reinigung“ gedacht sei.
Bei seiner Einlieferung ins Spital zeigte der Mann Anzeichen von Paranoia. Er behauptete, sein Nachbar hätte ihn vergiftet, und verweigerte aus Misstrauen das angebotene Wasser trotz starken Dursts. Innerhalb des ersten Tages versuchte er sogar, aus dem Krankenhaus zu fliehen. Nach seiner Stabilisierung berichtete der Patient über typische Symptome einer Bromvergiftung: Gesichtsakne, extremen Durst und Schlaflosigkeit.
Historischer Kontext
Was heute als medizinische Kuriosität gilt, war zu Beginn des 20. Jahrhunderts ein verbreitetes Phänomen. Bromismus (Bromvergiftung) – die Vergiftung durch übermäßige Bromideinnahme – soll damals für etwa jeden zehnten psychiatrischen Krankenhausaufenthalt verantwortlich gewesen sein. Bromverbindungen wie Natrium- oder Kaliumbromid wurden als Beruhigungs- und Antikonvulsionsmittel (krampflösende Medikamente) eingesetzt und waren in zahlreichen Medikamenten und Tonika enthalten.
Da der Körper Bromide nur langsam ausscheidet, führte die chronische Einnahme größerer Mengen häufig zu Vergiftungserscheinungen. Die Wissenschaftler der University of Washington in Seattle, die den Fall dokumentierten, sehen darin ein Warnsignal für die Risiken künstlicher Intelligenz im Gesundheitsbereich. „Dieser Fall zeigt, wie der Einsatz künstlicher Intelligenz potenziell zur Entwicklung vermeidbarer unerwünschter Gesundheitsfolgen beitragen kann“, betonten die Autoren.
⇢ Digital verliebt: 75-Jähriger will Ehefrau für KI-Avatar verlassen
Das Phänomen ist heute so selten, dass es in der modernen Medizin oft erst spät erkannt wird. Bromismus ist aufgrund des weitgehenden Verbots von Bromid in Medikamenten nahezu vollständig verschwunden – was die aktuelle Verwirrung bei diesem Fall erklärt. Die medizinische Literatur beschreibt die historische Häufigkeit von Bromvergiftungen als beachtliches Problem des frühen 20. Jahrhunderts.
KI-Risiken
Da sie keinen Zugang zum ursprünglichen Chatverlauf hatten, konnten die Forscher die genauen Empfehlungen des Systems nicht überprüfen. Bei einem eigenen Test erhielten sie von ChatGPT ebenfalls den Vorschlag, Chlorid durch Bromid zu ersetzen – ohne spezifische Gesundheitswarnung und ohne Nachfrage nach dem Verwendungszweck. „So etwas würde ein medizinischer Fachmann tun“, kritisierten die Wissenschaftler.
Sie warnen, dass KI-Anwendungen „wissenschaftliche Ungenauigkeiten erzeugen, nicht zu kritischen Diskussionen der Ergebnisse fähig sein und letztendlich zur Verbreitung von Fehlinformationen beitragen können“. Der Vorfall ereignete sich noch vor der kürzlich angekündigten GPT-5-Version, für die der Hersteller verbesserte Fähigkeiten bei Gesundheitsfragen und proaktive Risikohinweise verspricht.
⇢ Schreibfaul? WhatsApp lässt bald KI für dich chatten
OpenAI weist inzwischen in seinen aktuellen Richtlinien explizit darauf hin, dass ChatGPT keine medizinische Beratung, Diagnose oder Behandlung ersetzen kann und Nutzer bei Gesundheitsfragen immer einen Arzt konsultieren sollten. Diese Warnhinweise werden bei gesundheitsbezogenen Anfragen standardmäßig eingeblendet, um Fehlinformationen und Risiken zu minimieren.
Dennoch betont das Unternehmen, dass der Chatbot kein Ersatz für ärztliche Beratung sei und nicht „zur Diagnose oder Behandlung von Gesundheitszuständen gedacht“ sei. Die Forscher weisen darauf hin, dass KI zwar als Brücke zwischen Wissenschaft und Öffentlichkeit dienen könne, aber die Gefahr „dekontextualisierter Informationen“ berge.
Ein Arzt würde kaum jemals Natriumbromid als Kochsalzersatz empfehlen.
Die Autoren raten Medizinern daher, bei der Patientenbetreuung künftig auch die Nutzung von KI-Systemen als mögliche Informationsquelle zu berücksichtigen.
