Ein Goldman-Sachs-Banker vertraute ChatGPT seine dunkelsten Gedanken an – und genau das wurde ihm zum Verhängnis.
Ein beunruhigender Vorfall aus dem US-Bundesstaat Florida verdeutlicht, welches Potenzial Künstliche Intelligenz bei der frühzeitigen Erkennung konkreter Gewaltandrohungen besitzen kann. Wie die Palm Beach Post berichtet, hatte ein 25-Jähriger in Unterhaltungen mit dem KI-System ChatGPT Mordabsichten gegenüber seiner 21-jährigen Ex-Freundin geäußert. Den Angaben der Zeitung zufolge wurden diese bedrohlichen Inhalte von den Sicherheitsmechanismen des ChatGPT-Betreibers OpenAI identifiziert.
Ein Mitarbeiter des Unternehmens sichtete das Material daraufhin und leitete es an das FBI weiter. Die Bundespolizei übermittelte die Gesprächsprotokolle anschließend an die zuständigen Ermittler in Palm Beach County. Die Behörden bewerteten die Äußerungen als ernsthafte Gefahr, woraufhin der Verdächtige festgenommen wurde. Laut dem Bericht bekannte er sich schuldig. Darüber hinaus soll er zugegeben haben, seine Ex-Freundin nach der Trennung über wechselnde Telefonnummern und verschiedene soziale Netzwerke wiederholt kontaktiert und belästigt zu haben.
Drohungen im Chat
Der Beschuldigte, der als Analyst bei der US-Investmentbank Goldman Sachs tätig gewesen war, soll dem Chatbot gegenüber ausführlich über seine Eifersucht, die Gewohnheiten seiner ehemaligen Partnerin sowie mögliche Gewalttaten gesprochen haben. Unter anderem soll er angedroht haben, die junge Frau zu vergewaltigen und zu töten, falls sie nicht in die Beziehung zurückkehre. Die Frau hatte die Beziehung offenbar telefonisch beendet, weil sie eine gewaltsame Reaktion seinerseits befürchtet hatte.
Die Staatsanwaltschaft erhob gegen den Banker mehrere Anklagepunkte, darunter Stalking, schriftliche Todesdrohungen sowie die missbräuchliche Nutzung eines Kommunikationsmittels zur Begehung einer Straftat. Ein Gericht verurteilte den 25-Jährigen zu acht Jahren Bewährung. Ihm wurde außerdem untersagt, Kontakt zu seiner früheren Partnerin aufzunehmen oder Schusswaffen zu besitzen.
Für einen Zeitraum von zwei Jahren muss er zudem eine elektronische Fußfessel tragen. Sein Verteidiger soll dargelegt haben, dass sich der Beschuldigte zum Tatzeitpunkt in einer schweren psychischen Ausnahmesituation befunden habe.
Goldman Sachs trennte sich nach Bekanntwerden der Vorgänge von dem Mitarbeiter.
KI-Sicherheitsfragen
Der Vorfall rückt erneut die Frage in den Mittelpunkt, wie KI-Anbieter mit konkreten Drohungen gegen Leib und Leben umgehen. ChatGPT und vergleichbare Systeme stehen seit geraumer Zeit vor der Herausforderung, zwischen problematischen Aussagen und einer unmittelbar bevorstehenden Gefahr zu unterscheiden.
In diesem Fall führte die interne Sicherheitsüberprüfung dem Medienbericht zufolge dazu, dass die Strafverfolgungsbehörden eingeschaltet wurden. OpenAI legt in seiner veröffentlichten Law-Enforcement-Richtlinie fest, dass Nutzerdaten nur dann an Strafverfolgungsbehörden weitergegeben werden dürfen, wenn entweder ein rechtlich gültiges Verfahren (etwa Vorladung, Gerichtsbeschluss oder Durchsuchungsbefehl) vorliegt oder wenn das Unternehmen in gutem Glauben davon ausgeht, dass ein Notfall mit Gefahr des Todes oder einer schweren Körperverletzung besteht und die Daten zur Verhinderung dieses Schadens notwendig sind.
In einem Transparenzbericht zu behördlichen Anfragen stellt OpenAI klar, dass es in eng begrenzten Fällen auch auf formelle Notfallersuchen von Strafverfolgungsbehörden Nutzerdaten offenlegt, wenn das Unternehmen dies für erforderlich hält, um einen Notfall mit Gefahr des Todes oder einer schweren Körperverletzung zu verhindern.
