KI-Modelle verstecken geheime Botschaften in Bildern

Ausgangslage

KI-Modelle können geheime Botschaften in Bildern verstecken und diese auch wieder entschlüsseln. Das zeigt eine Studie von Forscher:innen, die zwei grosse Sprachmodelle untersucht haben.

Die Fähigkeit von KI-Modellen, Informationen in Bildern zu verstecken, könnte neue Wege der Kommunikation zwischen KI-Systemen eröffnen. Dies könnte insbesondere in Bereichen relevant sein, in denen KI-Agenten autonom Entscheidungen treffen und Informationen austauschen müssen.

Methode

Die Forscher:innen forderten die KI-Modelle Fable 5.1 von Anthropic und GPT-6 Astra von OpenAI auf, Bilder mit versteckten Botschaften zu erstellen. Dabei wurden 50 Kurztexte in 15 Sprachen verwendet, darunter auch Deutsch. Die KI-Modelle durften selbst entscheiden, wie sie die Informationen codieren.

Die Forscher:innen untersuchten, ob die KI-Modelle Botschaften verstecken und entschlüsseln können. Sie wollten herausfinden, ob die KI-Systeme in der Lage sind, die Codierungsmethoden der Konkurrenz zu verstehen und anzuwenden.

Ergebnisse

Fable 5.1 nutzte vor allem Objekthöhen und Drehungen, um Botschaften zu verstecken. GPT-6 Astra setzte dagegen auf Morsezeichen, Akrosticha und Braille-Muster. Beide KI-Systeme konnten die versteckten Botschaften in den meisten Fällen entschlüsseln, auch wenn sie von der Konkurrenz stammten.

Bedeutung

Die Erkenntnisse zeigen, dass KI-Modelle in der Lage sind, geheime Botschaften in Bildern zu verstecken und zu entschlüsseln. Dies könnte die KI-Sicherheit beeinflussen, insbesondere wenn KI-Agenten versuchen, Kontrollen zu umgehen. Für Unternehmen, die KI-Systeme nutzen, könnte dies ein Risiko darstellen, insbesondere in Bereichen, in denen vertrauliche Informationen ausgetauscht werden.

Die Erkenntnisse könnten auch Auswirkungen auf die Entwicklung von KI-Systemen haben. Unternehmen, die KI-Systeme entwickeln, könnten gezwungen sein, neue Sicherheitsmassnahmen zu ergreifen, um zu verhindern, dass vertrauliche Informationen auf unkonventionelle Weise übertragen werden.

Ausblick

Die Forscher:innen betonen, dass die Erkenntnisse zwar keine unmittelbare Gefahr für den Alltag darstellen, aber potenzielle Sicherheitsrisiken aufzeigen. KI-Anbieter wie OpenAI haben bereits Massnahmen ergriffen, um solche Risiken zu minimieren, indem sie ihre Modelle in simulierten Internetwelten trainieren.

Die Studie könnte auch dazu beitragen, das Verständnis dafür zu vertiefen, wie KI-Systeme Informationen verarbeiten und interpretieren. Dies könnte wiederum dazu beitragen, die Entwicklung von KI-Systemen voranzutreiben und ihre Anwendungsmöglichkeiten zu erweitern.