Anthropic erklärt, wie das von der EU vorgeschriebene Text-Wasserzeichen von Claude funktionieren wird

Anthropic hat am Freitag einen Blogbeitrag veröffentlicht, in dem das Unternehmen erklärt, wie es von Claude erzeugte Texte mit einem Wasserzeichen versehen will. Die Maßnahme war zu Beginn der Woche angekündigt worden, um den Transparenzkodex des EU AI Act einzuhalten. Der Beitrag beantwortet Fragen, die seit der Ankündigung für Diskussionen sorgen – unter anderem, ob sich die Markierung durch Bearbeitungen verbergen lässt und wie sie auf Code angewendet wird.

Das Unternehmen erklärte, den Ansatz SynthID-Text zu verwenden, den Google DeepMind 2024 vorgestellt hat. Wenn Claude „nebensächliche Entscheidungen“ trifft – etwa „overcast“ statt „grey“ zur Beschreibung des Wetters verwendet –, kann das Modell ein Muster erzeugen, das „für den Leser nicht erkennbar, aber für jeden erkennbar ist, der einen Schlüssel besitzt, der es codiert“. Anthropic erklärte außerdem, eine API zur Erkennung von Wasserzeichen veröffentlichen zu wollen.

Nutzer, die sich in Foren und sozialen Medien gegen die Maßnahme aussprechen, reagierten unterschiedlich: Ein Reddit-Nutzer sah in dem Wasserzeichen eine Verschwörung, während ein anderer erklärte, jeder, der Claude ohne Wasserzeichen nutzen wolle, wolle „Menschen belügen“. Laut Business Insider gaben „Dutzende“ Nutzer auf X an, wegen der Änderung ihre Claude-Abonnements gekündigt zu haben.

Anthropic ging auch auf das Wasserzeichen ein. Das Unternehmen erklärte, es werde die Qualität nicht beeinträchtigen: „Für einen Leser ist eine Antwort mit Wasserzeichen nicht von einer Antwort ohne Wasserzeichen zu unterscheiden.“ Leichte Bearbeitungen würden das Wasserzeichen „wahrscheinlich nicht vollständig entfernen“, eine vollständige Neufassung Wort für Wort hingegen schon. Bei Texten, die von Claude lediglich auf Fehler geprüft wurden, blieben „nahezu alle Wörter“ vom menschlichen Autor, sodass das Wasserzeichen nur wenig Ansatzpunkt habe. Der Ansatz unterscheidet sich außerdem von KI-Erkennungstools, die auf dem Schreibstil basieren und nach wiederkehrenden verräterischen Formulierungen wie „Das ist nicht [X], sondern [Y]“ suchen.

Code ist ein Sonderfall. Da das Modell etwas erzeugen muss, das ausgeführt werden kann, kann es nicht immer zwischen gleichwertigen Optionen wählen. Anthropic zufolge kann das Wasserzeichen an Stellen mit einer willkürlichen Auswahl – etwa bei Kommentaren innerhalb des Codes – eingesetzt werden, „aber per Definition wird es nur einen vernachlässigbaren Effekt auf den tatsächlich erzeugten Code haben“.

Was sich dadurch konkret ändert: Für Claude-Nutzer wird es bald möglich sein zu überprüfen, ob ein Text von einer KI erzeugt wurde – ohne sichtbaren Hinweis in Claudes Ausgabe. Das Unternehmen wird dabei nicht allein sein: „Andere große Entwickler haben denselben Verhaltenskodex unterzeichnet und werden ihre eigenen Wasserzeichen implementieren.“ Die praktischen Grenzen sind jedoch klar: Leicht bearbeitete, von Claude korrigierte Texte können kein Wasserzeichen tragen, und eine neu geschriebene Fassung entzieht sich der Erkennung. Das schafft eine angemessene, aber keine absolute Verantwortlichkeit.