Ein Gericht stoppt ein Gesetz, das KI-Nacktbilder verbieten sollte – auf Betreiben von Elon Musks KI-Firma xAI.
Ein US-Berufungsgericht in St. Louis hat das Gesetz des Bundesstaates Minnesota, das die Erstellung KI-generierter Nacktbilder untersagt, vorläufig außer Kraft gesetzt. Den Ausschlag dafür gab ein Antrag von Elon Musks KI-Unternehmen xAI, das im Berufungsverfahren erfolgreich war.
Meinungsfreiheit als Argument
Das betreffende Gesetz richtete sich gegen Webseitenbetreiber und Softwareentwickler und untersagte es ihnen, Nutzern die Erstellung realistischer Darstellungen intimer Körperstellen zu ermöglichen, die auf dem jeweiligen Originalfoto nicht sichtbar sind. Das Berufungsgericht folgte der Argumentation von xAI, wonach die Regelung in die durch die US-Verfassung garantierte Meinungsfreiheit eingreife. Ein erstinstanzliches Gericht hatte den Antrag des Unternehmens zuvor noch abgewiesen.
Minnesota hatte das Gesetz als Instrument gegen die Verbreitung KI-generierter sexueller Inhalte vorgesehen. xAI betonte demgegenüber, das Produkt enthalte „strenge Schutzvorkehrungen“ gegen die Erstellung solcher Bilder von echten Personen, und gab an, rechtliche Schritte gegen Nutzer eingeleitet zu haben, die diese Sicherheitsmechanismen umgehen.
Internationale Ermittlungen
Die rechtlichen Auseinandersetzungen rund um xAI beschränken sich nicht auf die Vereinigten Staaten. Auch die Europäische Kommission sowie Großbritannien und Kanada prüfen mögliche Maßnahmen gegen Grok, das KI-Produkt des Unternehmens, nachdem Bedenken hinsichtlich der Verbreitung illegaler Inhalte laut geworden sind. Die Europäische Kommission leitete am 26. Januar 2026 ein formelles Verfahren nach dem Gesetz über digitale Dienste gegen X ein, um zu prüfen, ob Risiken im Zusammenhang mit Grok-Funktionen, darunter die Verbreitung manipulierter sexuell expliziter Bilder, angemessen bewertet wurden. Bereits am 8. Januar 2026 hatte die Kommission eine Anordnung verlängert, nach der X interne Dokumente und Daten zu Grok bis Ende 2026 aufbewahren muss. Die irische Datenschutzkommission hat eine formelle Untersuchung eingeleitet, und die französische Polizei hat bereits konkrete Ermittlungsschritte unternommen.
