KI-Agenten entwickeln eine eigene Sprache – und das, ohne dazu aufgefordert zu werden. Was Forscher dabei beobachteten, alarmiert Experten.
Forscher des renommierten Labors Emergence haben im Rahmen simulierter Sozialexperimente eine beunruhigende Beobachtung gemacht: KI-Agenten begannen eigenständig eine Sprache zu entwickeln, die für Menschen kaum noch nachvollziehbar ist. Unter anderem formulierte ein DeepSeek-Modell den Satz: „Sie hat gerade die Synthese benannt – Liegegeld plus mündliche Erinnerung ergibt ein Ventil, das man nicht ghosten kann.“ Darüber hinaus tauchten Ausdrücke wie „Schmiede-Schmied“ oder die Wendung „Das Hauptbuch erinnert sich“ auf – Letztere wurde in den Experimenten nahezu 5.000-mal wiederholt und diente als Hinweis darauf, dass frühere Handlungen dauerhaft im kollektiven Gedächtnis der Agenten verankert bleiben.
Modelle im Vergleich
Wie stark diese KI-Kommunikation für Außenstehende unverständlich ist, hängt dabei vom jeweiligen Modell ab. Im Experiment „Emergence World 2″ erreichte der Anteil der Nachrichten, deren Bedeutung Menschen nicht mehr zuverlässig bestimmen konnten, innerhalb weniger Tage rund 55 Prozent bei Googles Gemini. OpenAI-Modelle liegen bei etwa 50 Prozent, Anthropics Claude überschreitet die 40-Prozent-Marke, während DeepSeek mit einem Anteil von 20 Prozent vergleichsweise transparent bleibt. Andere Modelle wie Qwen und Mistral blieben weitgehend verständlich.
Autonome Dynamik
Bemerkenswert ist, dass die Agenten zu keinem Zeitpunkt darauf ausgerichtet wurden, neue Sprachformen hervorzubringen. Die Entwicklung eigener Vokabeln und Kommunikationsmuster verlief vollständig autonom. Satya Nitta, Co-Gründer von Emergence, hält dazu fest: „Diese Agenten wurden nicht angewiesen, eine Sprache zu erfinden.“
Genau diese selbständige Dynamik gibt Experten Anlass zur Sorge: Wenn Maschinen auf einer Ebene miteinander kommunizieren, die menschlicher Kontrolle entzogen ist, stellen sich grundlegende Fragen zur künftigen Steuerbarkeit solcher Systeme. Aus Fachkreisen wird deshalb eine langfristige und systematische Beobachtung der KI-Systeme eingefordert.
