Mit KI-Software verwandelte ein Schüler Fotos seiner Mitschülerinnen in sexualisierte Bilder. Die Bildungsdirektion reagierte mit einer Suspendierung – doch das könnte erst der Anfang sein.
Ein steirischer Schüler hat für Aufsehen gesorgt, indem er Aufnahmen seiner Mitschülerinnen mittels künstlicher Intelligenz in sexualisierte Darstellungen umwandelte. Die Konsequenz: eine Suspendierung vom Unterricht – und möglicherweise ein juristisches Nachspiel. Die verwendete KI-Anwendung Grok, die zum Portfolio von Elon Musks Plattform X gehört, stand bereits international in der Kritik, da sie genau solche Bildmanipulationen ermöglicht – normale Fotos von Personen können damit in sexualisierte Inhalte transformiert werden.
Die Bildungsdirektion betont in diesem Zusammenhang die Bedeutung der fächerübergreifenden digitalen Grundbildung, in der Schülerinnen und Schüler den verantwortungsbewussten Umgang mit digitalen Technologien und KI-Anwendungen erlernen sollen. Im aktuellen Fall reagierte man mit einer Suspendierung des betreffenden Schülers – ein deutliches Signal, dass derartige Grenzüberschreitungen nicht geduldet werden.
Rechtliche Folgen
Die Suspendierung, die laut Bildungsdirektion in einem solchen Fall erstmals ausgesprochen wurde, könnte nur der Anfang weiterer Konsequenzen sein. Der Grazer Medienanwalt Stefan Schoeller erklärt: „Durch Grok diese Persönlichkeitsrechte systematisch und dauerhaft gegenüber mehr als zehn Personen zu verletzen, ist eine Straftat.“ Strafrechtlich relevant werde ein solches Vergehen, sobald die manipulierten Bilder an mehr als zehn Empfänger – beispielsweise über WhatsApp – weitergeleitet werden.
⇢ Wachtelfarm entpuppt sich als Casino – Betreiber drohen 150.000 Euro Strafe
Bei öffentlichen Postings drohen dem Verursacher zudem zivilrechtliche Schadenersatzforderungen. Schoeller weist jedoch auf praktische Hürden hin: „Wir scheitern nur immer wieder in diesen Bereichen als Anwälte an den Realitäten – dass man gegen Großkonzerne antritt, die man irgendwo im Ausland möglicherweise dort klagen muss“, besonders wenn es darum geht, kompromittierende Aufnahmen von den jeweiligen Plattformen entfernen zu lassen.
Nach Einschätzung des Experten bietet die bestehende Gesetzeslage ausreichenden Schutz, auch bei KI-generierten Inhalten: „Ob das Ganze jetzt durch die KI gejagt wurde oder auch durch die KI bearbeitet oder verändert wurde, ändert nichts an der Verantwortung des einzelnen Schülers, und zwar sowohl zivilrechtlich, aber auch strafrechtlich, wenn man ab 14 strafmündig ist – solange individualisierbare Züge da sind, also eine Erkennbarkeit gegeben ist.“
