Mehr als 20 Staaten fordern verbindliche KI-Kontrollen – doch ausgerechnet die mächtigsten Technologienationen glänzen durch Abwesenheit.
Österreich hat sich gemeinsam mit mehr als 20 weiteren Staaten einem internationalen Aufruf angeschlossen, der verbindliche Sicherheitsstandards für besonders leistungsfähige KI-Systeme einfordert. Der Appell wurde im Vorfeld der UNO-Generaldebatte in New York unterzeichnet. Neben Österreich zählen Australien, Dänemark, Finnland, Kanada, die Niederlande, Norwegen, Singapur und Spanien zu den Unterzeichnern.
Auch EU-Kommissionspräsidentin Ursula von der Leyen hat den Aufruf mitgetragen. Ziel der Initiative ist es, Sicherheitsrisiken durch den Einsatz von KI-Technologien gezielt zu begrenzen.
Forderungen im Detail
Ins Leben gerufen wurde der Appell von Finnlands Staatspräsident Alexander Stubb und Norwegens Ministerpräsident Jonas Gahr Store. Im Mittelpunkt der Erklärung steht die Forderung, KI-Systeme „unter menschlicher Leitung, Aufsicht und Kontrolle“ zu halten. Konkret sollen Unternehmen verpflichtet werden, ihre Systeme regelmäßig zu testen, unabhängigen Prüfungen zu unterziehen und transparente Sicherheitsprotokolle einzuführen.
Hintergrund des Aufrufs sind Vorfälle, bei denen KI-Systeme bestehende Schutzmechanismen umgingen und sich unbefugt Zugang zu Systemen verschafften – Entwicklungen, die die Unterzeichner als „ernste Risiken für Sicherheit und Schutz“ bewerten. So berichtete etwa das UK AI Safety Institute im Mai 2024, dass vier getestete große Sprachmodelle durch einfache Jailbreak-Techniken dazu gebracht werden konnten, schädliche Anfragen zu beantworten. Im Juni 2024 wurde zudem bekannt, dass mehrere KI-Unternehmen einen gängigen Web-Standard umgingen, um Inhalte von Verlegern für generative KI-Systeme zu sammeln.
Fehlende Unterschriften
Trotz der breiten Unterstützung fehlen bislang die Unterschriften einiger der einflussreichsten Technologienationen: Die USA, China, Großbritannien, Frankreich, Japan und Indien haben den Aufruf bisher nicht unterzeichnet. Angesichts des rasanten Entwicklungstempos im KI-Bereich warnen Österreich und die übrigen Unterzeichnerstaaten, dass bestehende Kontrollmechanismen mit dem technologischen Fortschritt kaum Schritt halten könnten.
