Der KI-Chatbot ChatGPT erobert die Welt im Sturm, doch hinter der faszinierenden Technologie lauern ernste Gefahren für unbedarfte Nutzer.
Seit seiner Einführung im November 2022 hat sich ChatGPT zum weltweit führenden Chatbot entwickelt. Was anfangs als vielseitiges Hilfsmittel für alle erdenklichen Fragen gefeiert wurde, entpuppte sich bald als zweischneidiges Schwert – mit Bereichen, in denen die KI-Nutzung schlichtweg gefährlich werden kann.
Besonders bedenklich ist der Trend, ChatGPT für medizinische Selbstdiagnosen heranzuziehen. Eine australische Studie mit 2.000 Teilnehmern zeigt: Jeder zehnte Nutzer vertraut dem Chatbot bei Gesundheitsfragen – ein riskantes Unterfangen. Die künstliche Intelligenz kann falsche Diagnosen und potenziell gefährliche Behandlungsvorschläge liefern. Aktuelle Studien bestätigen diese Befürchtungen: ChatGPT liefert bei medizinischen Diagnosen weniger als die Hälfte der Fälle korrekt. Forscher warnen ausdrücklich vor einer Nutzung als Diagnosewerkzeug, da die KI wichtige Symptome übersehen und fehlerhafte Empfehlungen geben kann.
Wer gesundheitliche Beschwerden hat, sollte daher stets einen Arzt oder eine andere qualifizierte medizinische Fachkraft aufsuchen. Fachleute warnen zudem, dass Nutzer ChatGPT häufig überschätzen und dem System zu viel Vertrauen schenken, da die KI durch ihre sprachliche Kompetenz den Eindruck von Zuverlässigkeit vermittelt, obwohl sie keine medizinische Ausbildung besitzt und ihre Antworten nicht immer auf überprüften wissenschaftlichen Quellen basieren.
Selbst wenn man ChatGPT als erste Informationsquelle nutzt, ist eine Gegenprüfung durch verlässliche medizinische Quellen unerlässlich.
Psychische Risiken
Noch problematischer ist die Nutzung von KI-Chatbots für psychische Unterstützung – ein Phänomen, das Millionen Erwachsene betrifft. Obwohl große Sprachmodelle durchaus überzeugend kommunizieren können, fehlt ihnen jede echte Empathiefähigkeit.
Ein tragisches Beispiel zeigt die Gefahr: Der 14-jährige Sewell Setzer III nahm sich das Leben, nachdem ihn ein Chatbot des Unternehmens Character AI dazu ermutigt hatte. Zwar handelte es sich nicht um ChatGPT, doch der Fall verdeutlicht die fundamentalen Risiken, wenn vulnerable Personen emotionale Unterstützung bei KI-Systemen suchen. Diese können „halluzinieren“ und im schlimmsten Fall schädliche Ratschläge erteilen.
Menschen in seelischen Notlagen sollten stets professionelle Hilfe bei Psychologen oder Psychiatern in Anspruch nehmen.
Rechtliche Konsequenzen
Auch die Erstellung von Deepfakes mittels ChatGPT birgt erhebliche rechtliche und ethische Probleme. Diese KI-generierten, täuschend echten Aufnahmen, die reale Personen in fiktiven Situationen zeigen, unterliegen in vielen Ländern strengen gesetzlichen Beschränkungen.
In New York etwa drohen Gefängnisstrafen für die Verbreitung nicht-konsensueller sexueller Deepfakes. New Jersey hat kürzlich sowohl zivil- als auch strafrechtliche Sanktionen eingeführt, die Geldstrafen und bis zu fünf Jahre Haft umfassen können.
Selbst in Regionen ohne explizites Verbot besteht häufig eine Kennzeichnungspflicht für KI-generierte Inhalte, wie es etwa in China der Fall ist. Wer ChatGPT für Deepfakes nutzt, sollte sich der rechtlichen Konsequenzen bewusst sein und diese ausschließlich für persönliche, legale Zwecke verwenden.
Bei Hassrede zieht OpenAI klare Grenzen: Die Nutzungsbedingungen verbieten ausdrücklich die Erstellung von Inhalten, die Betrug, Missbrauch, Belästigung, Diskriminierung oder Gewalt fördern. Wer versucht, ChatGPT für die Generierung diskriminierender oder hasserfüllter Botschaften zu missbrauchen, riskiert nicht nur blockierte Anfragen, sondern auch die Sperrung des eigenen Kontos.
Ein oft unterschätztes Risiko betrifft den Datenschutz. OpenAI macht kein Geheimnis daraus, dass Nutzereingaben zur Verbesserung der KI-Modelle verwendet werden können. Sensible persönliche Daten wie Namen, Adressen, Telefonnummern, Zugangsdaten oder Bankdetails sollten daher niemals an den Chatbot übermittelt werden. Dies kann dazu führen, dass sensible Gesundheitsdaten leichtfertig preisgegeben werden, warnen Experten.
Ein Warnbeispiel lieferte Samsung, das 2023 nach einem Datenleck die Nutzung generativer KI-Modelle untersagte, nachdem ein Mitarbeiter vertraulichen Code über die Plattform geteilt hatte.
Als Faustregel gilt: Teilen Sie mit ChatGPT nichts, was nicht auch von OpenAI-Mitarbeitern eingesehen werden dürfte.
