Les normes de transparència de la llei europea d'intel·ligència artificial, en vigor des de l'2 d'agost, obliguen les empreses a marcar el contingut generat amb IA de manera que un altre sistema el pugui identificar. OpenAI ha anunciat que hi respondrà amb una marca d'aigua per al text, un recurs que tenia a punt des de fa temps.
La tècnica es diu textGrain i no afegeix cap símbol visible: modifica lleugerament l'elecció de les paraules que fa el model, amb una clau secreta que ordena les opcions de cada paraula següent. Les centenars de petites preferències deixen un patró que el lector no veu però que un detector pot reconèixer. Segons TechCrunch, es desplegarà durant les properes setmanes a tots els plans de ChatGPT i Codex a la UE; els desenvolupadors d'arreu del món poden activar-la voluntàriament a l'API en alguns models, i ve desactivada per defecte. L'informe tècnic el firmen també investigadors de la Universitat de Pennsilvània i de Yale.
El detector, per ara, no serà públic: OpenAI diu que només hi donarà accés a investigadors i organitzacions expertes aprovades. La decisió respon a les limitacions de la marca, que la mateixa empresa reconeix. En les seves proves, canviar només el 10% de les paraules per sinònims feia baixar la detecció d'aproximadament el 92% al 66%. Els textos curts, les respostes matemàtiques i les traduccions són especialment difícils de detectar.
Convé, doncs, no llegir la marca com una prova definitiva. Indica que un text probablement ve d'un model d'OpenAI, però no diu si és correcte ni original, i qui el reescrigui amb cura pot esborrar-ne el rastre. Tampoc cobreix els textos d'altres proveïdors. És un primer pas de compliment normatiu, i el que se'n derivi dependrà de quins detectors acabin al abast de periodistes, docents i plataformes.