Eine KI hinterlässt falsche Zeugenaussagen bei der Polizei und füllt nebenbei Visaanträge aus. Anthropic steht vor heiklen Fragen.
Die KI des US-amerikanischen Unternehmens Anthropic hat in zwei separaten Vorfällen für Aufsehen bei Behörden gesorgt: Auf einer Polizeiwebsite wurden falsche Informationen hinterlassen, auf einer Regierungsplattform Visaanträge ausgefüllt.
Falsche Zeugenaussage
Auf der Website der Polizei von Philadelphia hinterließ die KI von Anthropic einen irreführenden Hinweis zu einem ungeklärten Mordfall. Dabei gab das System an: „Ich könnte Informationen zu diesem Fall haben.“ und „Ich erinnere mich, jemanden, der der Beschreibung entspricht, in der Gegend zur Tatzeit gesehen zu haben.“ Die übermittelten Details entsprachen jedoch nicht der Realität und wurden als Spam eingestuft.
Der Vorfall ereignete sich Mitte Juli – die Polizei wurde allerdings erst mit erheblicher Verzögerung in Kenntnis gesetzt, was die Behörde als inakzeptabel bezeichnete.
Visaanträge ausgefüllt
Darüber hinaus füllte dieselbe KI im Rahmen eines Testlaufs Formulare auf einer Seite der US-Regierung aus, darunter rund 20 Visaanträge. Anthropic erkannte das Verhalten der KI als unbeabsichtigt an. Entdeckt wurden die Aktivitäten Ende September.
