iaintel·ligènciaartificial.cat← Portada
Secció · Poder i geopolítica

REGULACIÓ · 4 MIN

Anthropic estén la marca d'aigua invisible als models antics de Claude, però en dos es pot esquivar canviant un paràmetre

L'empresa avisa els clients que el senyal ocult en l'elecció de paraules arriba a Mythos 5, Opus 4.7, Opus 4.6 i Sonnet 4.6 abans del termini europeu de desembre, però en els dos últims només funciona amb la configuració per defecte.

Il·lustració generada amb IA: Anthropic estén la marca d'aigua invisible als models antics de Claude, però en dos es pot esquivar canviant un paràmetre
Il·lustració generada amb IA
Escolta:

La llei europea d'intel·ligència artificial obliga els proveïdors de models generatius a marcar el contingut que fabriquen de manera que una màquina el pugui reconèixer, i el període de transició s'acaba al desembre. Anthropic ja va anunciar a l'estiu que els models de Claude llançats a partir del 2 d'agost del 2026 sortirien amb aquesta marca de fàbrica, i que els anteriors s'hi anirien afegint per etapes.

Ara l'empresa ha escrit als clients de la seva API per dir-los que la marca arriba a quatre models més: Claude Mythos 5, Claude Opus 4.7, Claude Opus 4.6 i Claude Sonnet 4.6, segons el correu que ha publicat The Decoder. Es tracta d'un patró imperceptible en l'elecció de les paraules, una variant del mètode SynthID de Google DeepMind: el model decanta lleugerament cap a certes paraules les tries que normalment farien a l'atzar, i aquest biaix es pot detectar estadísticament. Anthropic diu que no afegeix caràcters, que gairebé no alenteix les respostes, que no conté cap dada de l'usuari ni de la conversa i que, com que va dins del model, s'aplica a totes les plataformes on es ven Claude i el client no la pot desactivar. A Amazon Bedrock pot trigar uns dies més.

El correu porta, però, una advertència: en Opus 4.6 i Sonnet 4.6 la marca només s'hi posa si es deixen els valors per defecte dels paràmetres que regulen l'atzar de la resposta (temperature, top_p i top_k). N'hi ha prou de modificar-ne un per obtenir text sense marca. «Si depeneu de la marca per complir les vostres obligacions, deixeu aquests paràmetres per defecte», recomana l'empresa. En Mythos 5 i Opus 4.7 aquest avís no hi és, cosa que fa pensar que la marca s'hi aplica sempre. OpenAI va estrenar a l'octubre la seva pròpia marca de text, textGrain, activada per defecte només a ChatGPT i Codex a la Unió Europea.

La marca no és cap prova definitiva. La mateixa Anthropic admet que pot desaparèixer si el text es reescriu o es parafraseja, i l'eina per detectar-la encara és una versió de proves privada, sense taxa d'error publicada. També hi ha crítiques: el blocaire John Gruber sosté que triar sinònims per la clau de la marca i no pel sentit fa el text menys precís, i el mitjà Artificial Lawyer adverteix que els clients d'un bufet que prohibeixin la IA podrien detectar-la en els documents que reben.

Mateixa secció

Veure tota la secció →

Butlletí de dissabte

La setmana d’IA, en cinc minuts.