Die EU zieht eine klare Grenze: KI-Tools für sexualisierte Deepfakes sollen bald verboten sein – ein Paradigmenwechsel im Kampf gegen digitale Gewalt.
Digitaler Missbrauch ist eine Form von Gewalt, die im öffentlichen Bewusstsein lange unterrepräsentiert war. Auf europäischer Ebene rückte das Thema gegen Ende des vergangenen Jahres durch den KI-Chatbot Grok schlagartig in den Vordergrund: Solange die US-Firma des Tech-Milliardärs Elon Musk die entsprechende Funktion nicht einschränkte, nutzten Nutzer die Software wiederholt dazu, Frauen in von ihnen hochgeladenen Bildern virtuell zu entkleiden. An Silvester entschuldigte sich der Chatbot schließlich selbst dafür, ein Bild von zwei Mädchen im Teenager-Alter „in sexualisierten Outfits“ erstellt zu haben.
Neuen Auftrieb erhielt die Debatte über sexualisierte digitale Gewalt Ende März, als die Schauspielerin Collien Fernandes mit schwerwiegenden Vorwürfen gegen ihren Ex-Mann Christian Ulmen an die Öffentlichkeit trat. Sie beschuldigt ihn, in ihrem Namen Fake-Profile angelegt und darüber pornografische Inhalte verbreitet zu haben. Für Ulmen gilt die Unschuldsvermutung.
EU-Verbot geplant
Die EU hat beschlossen, KI-Anwendungen zur Erstellung sexualisierter Deepfakes ab Dezember 2026 zu verbieten – die formale Bestätigung steht noch aus. Das Verbot richtet sich gegen jene KI-Tools, die missbräuchlich täuschend echte sexualisierte Inhalte erzeugen, und soll insbesondere den Schutz vor digitaler Gewalt stärken. Vertreter der Mitgliedstaaten und des Europäischen Parlaments verständigten sich auf eine entsprechende Anpassung des KI-Gesetzes, wie die zypriotische EU-Ratspräsidentschaft mitteilte. Parallel dazu sollen andere KI-Regelungen vereinfacht werden, um das wirtschaftliche Potenzial Künstlicher Intelligenz in Europa besser ausschöpfen zu können.
Bevor die Änderungen rechtskräftig werden, muss die Einigung noch vom Plenum des EU-Parlaments sowie vom Rat der Mitgliedstaaten formal bestätigt werden – was in der Regel als Formalie gilt. Tritt die Reform in Kraft, würde das Verbot ab 2. Dezember 2026 vom EU-Amt für Künstliche Intelligenz durchgesetzt werden, das vor zwei Jahren eingerichtet worden war.
Bei sogenannten Deepfakes wird etwa das Gesicht einer Frau in ein fremdes Video eingefügt – beispielsweise in eine pornografische Sequenz – oder ihre Stimme wird so künstlich nachgeahmt, dass der Eindruck entsteht, sie tue oder sage Dinge, die in Wirklichkeit nie stattgefunden haben. Die rasante Entwicklung von KI-Technologien hat die Erstellung solcher täuschend echter Inhalte erheblich vereinfacht. Das geplante Verbot soll ausdrücklich auch Inhalte umfassen, die sexuellen Kindesmissbrauch darstellen.
Die angestrebten Gesetzesverschärfungen sind nicht der erste Anlauf der EU im Kampf gegen digitale Gewalt. Bestehende Regelungen sehen bereits vor, dass in sämtlichen Mitgliedstaaten das Anfertigen und Verbreiten von manipulierten Darstellungen sexueller Handlungen ohne Zustimmung der Betroffenen unter Strafe gestellt werden soll. Die entsprechende EU-Richtlinie ist zwar seit Mai 2024 in Kraft, wurde jedoch vielfach noch nicht in nationales Recht überführt.
Werkzeug verboten
Das neue Verbot innerhalb der KI-Verordnung würde einen grundlegenden Perspektivwechsel markieren: weg von der strafrechtlichen Verfolgung der Tat, hin zum Verbot des Werkzeugs selbst – also der KI-Anwendung als solcher. Verhandlungsteilnehmer betonen allerdings, dass das Verbot nicht zu einer übermäßigen Einschränkung der Bild- und Videobearbeitung führen soll. Zu diesem Zweck soll im neuen Gesetz präzise definiert werden, was unter sexualisierten Inhalten zu verstehen ist und was nicht. Nicht-einvernehmliche Bikini-Bilder, wie sie von Grok erstellt und auf X verbreitet wurden, könnten demnach weiterhin zulässig bleiben.
Ursprünglich hatte die EU-Kommission Änderungen am KI-Gesetz mit dem Ziel vorgeschlagen, die Wirtschaft und insbesondere die KI-Branche zu entlasten. Unternehmen hatten zuletzt jedoch wiederholt mehr Zeit eingefordert, um die erforderlichen Anpassungen an die strengeren Vorgaben umzusetzen. Dieser Spielraum soll den Anbietern von Chatbots und anderen Diensten der Einigung zufolge nun gewährt werden.
Jene Teile des Gesetzes, die das Europäische KI-Amt ursprünglich bereits ab August hätte durchsetzen sollen, gelten für die Unternehmen hinter ChatGPT, Claude und vergleichbaren Diensten nun erst ab Dezember 2026. Bis spätestens dann müssen Anbieter KI-generierte Inhalte klar als solche kennzeichnen – generierte Bilder und Videos wären demnach mit Wasserzeichen zu versehen. Weitere Regelungen soll das KI-Amt erst ab Dezember 2027 vollständig durchsetzen.
Die politischen Reaktionen auf die Einigung fielen durchwegs positiv aus. „Frauen müssen auch im digitalen Raum vor Gewalt geschützt werden und genau dafür haben wir nun einen wichtigen Schritt gesetzt. Deepfakes sind keine Spielerei, sie sind Gewalt“, erklärte die SPÖ-EU-Abgeordnete und frauenpolitische Sprecherin Elisabeth Grossmann. „Sexualisierte Gewalt im Internet hat konkrete Auswirkungen auf Menschen in der realen Welt. Daher müssen wir sie da wie dort genauso bekämpfen“, sagte Sophia Kircher, Binnenmarktsprecherin der ÖVP im Europaparlament. Die Grünen-Abgeordnete Lena Schilling zeigte sich erleichtert, „dass sich der grüne Vorschlag für ein Verbot dieser Apps in den Verhandlungen durchgesetzt hat“.
