Nach Skandal um anzügliche Bildbearbeitung zieht Elon Musks KI-Unternehmen die Notbremse. Behörden weltweit reagieren mit Sperrungen und Ermittlungen.
Nach internationaler Kritik hat Elon Musks KI-Unternehmen xAI die Funktionen seines Chatbots Grok eingeschränkt, um die Erstellung anzüglicher Bilder zu unterbinden. Besonders schwerwiegend war der Vorwurf, dass die KI-Anwendung für die Sexualisierung von Bildern Minderjähriger genutzt werden könnte. Musk selbst erklärte am Donnerstag auf seiner Plattform X, ihm seien keine Fälle bekannt, in denen Grok Nacktbilder von Minderjähriger generiert habe. Allerdings ging er nicht auf den eigentlichen Kritikpunkt ein – die Möglichkeit, Minderjährige in freizügiger Kleidung darzustellen.
Die Kontroverse um Musk und xAI verschärfte sich in den vergangenen Tagen, nachdem bekannt wurde, dass Nutzer mit Grok beispielsweise normale Kleidung auf Frauenfotos durch Bikinis ersetzen konnten. Dies führte zu behördlichen Ermittlungen. Malaysia reagierte mit einer Sperrung von Grok und kündigte rechtliche Schritte gegen X an. Kurz vor der Ankündigung neuer Sicherheitsmaßnahmen leitete auch Kalifornien eine Untersuchung ein.
⇢ Musk-Schock: „Vergessen Sie Ihre Pension – wird bald bedeutungslos“
Neue Sicherheitsmaßnahmen
Die Plattform X, die zu xAI gehört, teilte mit, dass nun „technologische Maßnahmen“ implementiert wurden, die verhindern sollen, dass Bilder realer Personen mit leichter Bekleidung wie Bikinis bearbeitet werden können. Diese Einschränkungen gelten sowohl für kostenlose als auch für Premium-Accounts. In Regionen, wo die Erstellung solcher Inhalte gesetzlich verboten ist, wird mittels Geoblocking unterbunden, dass KI-generierte Bilder realer Personen in Bikinis, Dessous oder ähnlicher Bekleidung erstellt werden.
Zudem wird die Bilderstellung und -bearbeitung mit Grok künftig ausschließlich zahlenden Nutzern vorbehalten sein. Der KI-Chatbot Grok wurde als Konkurrenzprodukt zum Marktführer ChatGPT von OpenAI entwickelt. Die Software ist in die Plattform X integriert, existiert aber auch als selbständige Anwendung. Sowohl Grok als auch X werden unter dem Dach von xAI betrieben.
EU-Reaktion
Die EU-Kommission hatte bereits vor der Ankündigung der neuen Sicherheitsmaßnahmen erklärt, man werde die zusätzlichen Vorkehrungen prüfen und analysieren. Sollten diese nicht ausreichen, sei man bereit, das gesamte Instrumentarium des Digital Services Act (DSA) einzusetzen. In den vergangenen Tagen hatte die Kommission den Druck auf X erhöht.
Erst Anfang Dezember hatte sie Musks Plattform wegen Transparenzmängeln mit einer Geldstrafe von 120 Millionen Euro belegt.
