Anthropic wehrt massive Angriffe auf KI-Modelle ab

Ausgangslage

Anthropic hat massive Distillation-Angriffe auf seine KI-Modelle entdeckt. Dabei extrahieren Angreifer interne Reasoning-Tokens, also Begründungsschritte des Modells, um eigene, kleinere KI-Systeme zu trainieren. Das Unternehmen hat die Extraktion dieser Tokens durch neue Abwehrmassnahmen um 90 bis 99 Prozent reduziert.

Die Angriffe zielten darauf ab, die internen Denkprozesse von Claude zu kopieren, um eigene, kleinere KI-Systeme zu trainieren. Dies stellt eine direkte Bedrohung für die Innovationskraft und den Wettbewerbsvorteil von Anthropic dar.

Die Angriffe erfolgten über Netzwerke mit Hunderttausenden gefälschter Konten, was die Komplexität und das Ausmass der Bedrohung unterstreicht. Anthropic hat schnell reagiert, um die Extraktion der internen Reasoning-Tokens zu reduzieren.

Hintergrund

Die Angriffe erfolgten über Netzwerke mit Hunderttausenden gefälschter Konten. Anthropic identifizierte die chinesischen Unternehmen Zhipu und Moonshot als Hauptakteure. Zhipu nutzte die gestohlenen Fähigkeiten für sein Modell GLM-5.3, während Moonshot Anfragen heimlich an Claude weiterleitete.

Die Fähigkeiten, die kopiert wurden, lassen sich in fremde Militär- und Überwachungssysteme einbinden. Dadurch wird die strategische Wichtigkeit dieser Angriffe betont. Die Identifizierung der beteiligten Unternehmen zeigt, wie international die Bedrohung durch KI-basierte Angriffe ist.

Abwehrmassnahmen

Die Verteidigung stützt sich auf drei Pfeiler: begrenztem Zugang zu Claudes internen Begründungsprozessen, einem Erkennungssystem für Extraktionsversuche und automatisierten Sperrungen von Konten. Bereits Zehntausende Accounts wurden gesperrt. Anthropic bestätigt, dass ebenfalls berechtigte Anwender betroffen sind.

Die neuen Abwehrmassnahmen von Anthropic umfassen nicht nur technische Lösungen, sondern auch eine verstärkte Überwachung der Nutzeraktivitäten. Das Unternehmen hat ein Klassifikator-System entwickelt, das Extraktionsversuche in Echtzeit erkennen und blockieren kann. Diese Massnahmen sind ein wichtiger Schritt zur Sicherung der KI-Technologien vor weiteren Angriffen.

Einordnung für die Schweiz

Schweizer Unternehmen, die KI-Technologien nutzen, sollten ihre Systeme auf ähnliche Extraktionsversuche überprüfen. Die Abwehrstrategien von Anthropic könnten auch für andere KI-Entwickler relevant sein.

Was das für Unternehmen bedeutet

Unternehmen, die KI-Modelle einsetzen, müssen ihre Sicherheitsmassnahmen überdenken. Besonders wichtig ist der Schutz interner Prozesse vor unbefugtem Zugriff.

Unternehmen sollten ihre Systeme regelmässig auf Sicherheitslücken überprüfen und entsprechende Massnahmen ergreifen, um sich vor ähnlichen Angriffen zu schützen.

Ausblick

Anthropic ruft andere KI-Entwickler dazu auf, sich ebenfalls gegen die Distillation zu stellen. Die Vorfälle könnten zu strengeren Regulierungen im Bereich KI-Sicherheit führen. Unternehmen sollten sich auf mögliche neue Sicherheitsstandards vorbereiten.

Unternehmen sollten sich auf mögliche neue Sicherheitsstandards vorbereiten, um ihre Systeme vor ähnlichen Bedrohungen zu schützen.

Einordnung

Die Vorfälle zeigen, wie anfällig KI-Systeme für gezielte Angriffe sind. Die Extraktion interner Prozesse kann die Wettbewerbsfähigkeit und Sicherheit von KI-Modellen erheblich beeinträchtigen.

Was das für KMU bedeutet

Schweizer KMU, die KI-Technologien nutzen, sollten ihre Systeme auf ähnliche Angriffe überprüfen. Besonders wichtig ist der Schutz interner Prozesse vor unbefugtem Zugriff.