Anthropic führt Wasserzeichen für weitere Claude-Modelle ein – mit Schlupfloch

Ausgangslage

Anthropic führt als Begründung für das Watermarking die Frist des EU-AI-Acts im Dezember an.

Technische Umsetzung

Ein unauffälliges Muster in der Ausdrucksweise sei das Wasserzeichen, welches weder die Bedeutung, die Qualität noch die Lesbarkeit der Antworten beeinflusse. Es fügt keine zusätzlichen Zeichen oder Token hinzu und hat nur einen vernachlässigbaren Einfluss auf die Ausgabegeschwindigkeit. Anthropic betont, dass das Wasserzeichen keine Informationen über Nutzer oder deren Organisation enthält.

Das Unternehmen nutzt technisch eine abgeänderte Version der SynthID-Text-Methode von Google DeepMind. Dabei wird die Zufallsquelle bei der Wortauswahl modifiziert. Dadurch entsteht ein statistisch erkennbares Muster. Diese Methode ist in die Modelle eingebettet und kann nicht abgeschaltet werden. Kunden können jedoch über eine Detection API in privater Vorschau das Wasserzeichen nachweisen.

Schlupfloch bei älteren Modellen

Bei ihnen kommt das Wasserzeichen laut Anthropic lediglich zum Einsatz, falls die Parameter temperature, top_p und top_k unverändert gelassen werden. Wer einen dieser Werte ändert, erhält Ausgaben, die das Wasserzeichen möglicherweise nicht tragen. Anthropic weist darauf hin, dass Kunden, die sich auf das Wasserzeichen für ihre Compliance verlassen, die Standardeinstellungen beibehalten sollten.

Einordnung für die Schweiz

Unternehmen, die KI-Modelle nutzen, sollten sich auf mögliche Anpassungen und Compliance-Anforderungen einstellen.

Was das für Unternehmen bedeutet

Für Unternehmen, die die Claude-Modelle nutzen, bedeutet dies, dass sie sich mit den neuen Wasserzeichen und deren Auswirkungen auseinandersetzen müssen.

Ausblick

Anthropic verweist auf eine Detection API in privater Vorschau, über die sich das Wasserzeichen nachweisen lässt. Weitere Details stellt das Unternehmen auf seiner Informationsseite zur Inhaltskennzeichnung bereit. Unternehmen sollten die Entwicklungen im Auge behalten und sich auf mögliche Anpassungen in ihren KI-Strategien vorbereiten. Die Diskussion über die Auswirkungen von Wasserzeichen auf die Textqualität bleibt umstritten, was zusätzliche Überlegungen für die Praxis mit sich bringt.

Die Diskussion über die Auswirkungen von Wasserzeichen auf die Textqualität bleibt umstritten. Blogger John Gruber argumentiert, dass keine zwei Synonyme exakt dieselbe Bedeutung tragen und die Wortwahl nach einem Wasserzeichen-Schlüssel statt nach semantischer Präzision zwangsläufig die Qualität beeinträchtige. Unternehmen sollten diese Diskussionen verfolgen und ihre KI-Strategien entsprechend anpassen.

Einordnung

Die Einführung von Wasserzeichen in KI-Modellen ist eine Reaktion auf die zunehmende Regulierung im Bereich Künstlicher Intelligenz. Der EU-AI-Act setzt dabei Massstäbe, die auch für andere Länder relevant sein könnten. Unternehmen müssen sich auf diese Entwicklungen einstellen und ihre KI-Strategien entsprechend anpassen.

Was das für KMU bedeutet

Für Schweizer KMU bedeutet dies, dass sie sich mit den neuen Compliance-Anforderungen auseinandersetzen müssen. Besonders wichtig ist dies für Unternehmen, die in der EU tätig sind oder deren Datenverarbeitung EU-Recht unterliegt. Die Möglichkeit, das Wasserzeichen bei älteren Modellen zu umgehen, könnte jedoch zu Compliance-Risiken führen, die es zu minimieren gilt.