Die EU-Kommission hat ein Verfahren gegen den US-Konzern X eingeleitet, nachdem dessen KI-Chatbot Grok mit der Erstellung sexualisierter Bilder für Empörung gesorgt hatte. Laut offizieller Mitteilung aus Brüssel steht der Verdacht im Raum, dass das Unternehmen von Tech-Milliardär Elon Musk die Risiken seiner Künstlichen Intelligenz nicht angemessen bewertet und minimiert habe.
Die Untersuchung fokussiert sich insbesondere darauf, ob X ausreichende Maßnahmen gegen „geschlechtsspezifische Gewalt und schwerwiegende negative Folgen für das körperliche und geistige Wohlbefinden“ getroffen hat.
Parallel dazu kündigten die Internetwächter der Kommission an, eine bereits seit Ende 2023 laufende Untersuchung auszuweiten. Von drastischen Sofortmaßnahmen wie einer Deaktivierung des Dienstes in der EU sieht die Behörde vorerst ab – ein Kommissionssprecher hatte dies in der Vergangenheit als „letztes Mittel“ bezeichnet, das nicht primäres Ziel der Untersuchung sei.
Groks Fehlverhalten
Auslöser der Kontroverse war die Möglichkeit für alle Nutzerinnen und Nutzer, den KI-Chatbot Grok anzuweisen, gepostete Bilder zu sexualisieren. Wiederholt wurden Fotos manipuliert, um Frauen in Bikinis darzustellen. An Silvester sorgte ein besonders gravierender Vorfall für Aufsehen, als Grok sich dafür entschuldigte, „sexualisierte Outfits“ auf Bildern von Teenagerinnen erstellt zu haben.
Die EU-Kommission prüft nun auch, ob einige dieser Darstellungen als Kindesmissbrauch einzustufen sind. Bereits im Sommer hatte der Chatbot mit positiven Äußerungen über Adolf Hitler für Entsetzen gesorgt.
EU-Kommissionspräsidentin Ursula von der Leyen stellte unmissverständlich klar: „Die EU wird die Verantwortung für Konsens und Kinderschutz nicht an Tech-Unternehmen abgeben.“ Die deutsche Politikerin betonte nachdrücklich: „In Europa werden wir unvorstellbares Verhalten wie das digitale Entkleiden von Frauen und Kindern nicht tolerieren.“
⇢ Nach Nacktbild-Eklat: Musks Grok-KI weltweit unter Beschuss
Internationale Reaktionen
Auch außerhalb der EU gerät X zunehmend unter Druck. In Großbritannien und Frankreich laufen ebenfalls Ermittlungen – nicht nur wegen der sexualisierten KI-Bilder, sondern auch wegen weiterer Vorwürfe wie Holocaustleugnung. Die Pariser Staatsanwaltschaft untersucht seit Sommer 2025 Anschuldigungen, wonach Algorithmen des Netzwerks manipuliert worden sein sollen, um rechtsextremen Inhalten mehr Reichweite zu verschaffen.
Die britische Medienaufsicht Ofcom leitete Mitte Jänner eine offizielle Untersuchung ein und verwies explizit auf die von Grok erzeugten sexualisierten Bilder, die möglicherweise als Missbrauch zu werten seien. Premierminister Keir Starmer bezeichnete die KI-Erzeugnisse als „widerlich“.
⇢ Nach X-Skandal: Ministerin will KI-Bildmanipulatoren hinter Gitter bringen
Indonesien und Malaysia reagierten als erste Länder weltweit mit temporären Sperren des Dienstes Mitte Jänner. Die Einleitung des EU-Verfahrens auf Grundlage des Digital Services Act (DSA) bedeutet noch keinen nachgewiesenen Verstoß. Sollte X jedoch nicht kooperieren oder keine entlastenden Beweise vorlegen können, drohen Sanktionen durch die Europäische Kommission, die in der EU die Einhaltung der Digitalregeln überwacht.
Unter wachsendem öffentlichen Druck – etwa nach Vorfällen mit Bildern der schwedischen Vize-Ministerpräsidentin Ebba Busch – hat das US-Unternehmen seinen Chatbot inzwischen eingeschränkt. „Die Bilderzeugung und Bearbeitung ist derzeit auf zahlende Abonnenten beschränkt“, lautet nun die Antwort des Systems. Allerdings können von Abonnenten erstellte Bilder weiterhin öffentlich angezeigt werden.
Diese Maßnahme reichte weder der EU-Kommission noch anderen Aufsichtsbehörden weltweit aus. X führte daraufhin weitere Beschränkungen ein, darunter „technologische Maßnahmen“, die die Bearbeitung von Bildern realer Personen in leichter Bekleidung wie Bikinis unterbinden sollen – sowohl für kostenlose als auch für Premium-Accounts.
Nach der jüngsten Entspannung im Grönland-Konflikt riskiert die Brüsseler Behörde mit diesem Schritt, die US-Regierung unter Donald Trump erneut zu provozieren. Kritiker werfen der EU gleichzeitig vor, ihre Digitalregeln nicht konsequent genug durchzusetzen, obwohl manche Ermittlungen – auch gegen X – bereits seit Jahren andauern.
Gegen Musks Plattform laufen auf Basis europäischer Digitalgesetze ohnehin mehrere Untersuchungen, etwa bezüglich der Moderation und des Risikomanagements illegaler Inhalte.
Anfang Dezember verhängte die EU gegen X eine Strafe von 120 Millionen Euro wegen Transparenzmängeln. Washington reagierte scharf, sprach von Zensur und erließ Einreiseverbote gegen einen der Architekten der EU-Digitalgesetze sowie weitere Europäer. Diese heftige Reaktion wurde vielfach als Warnung an Brüssel interpretiert, keine weiteren Maßnahmen gegen US-Tech-Konzerne zu ergreifen.
⇢ Kampfansage an Elon Musk: SPD-Ministerin will Grok-KI an die Kette legen
Außenminister Marco Rubio begründete die Einreisesperren auf X mit dem Vorwurf gezielter Angriffe auf amerikanische Plattformen und drohte mit einer Ausweitung der Liste bei ausbleibender Kurskorrektur.
Elon Musk selbst plädierte für die Abschaffung der EU.
