iaintel·ligènciaartificial.cat← Portada
Secció · Ciència, salut i robòtica

CIÈNCIA · 5 MIN

Més de 1.900 persones intenten distingir textos i descripcions d'imatges fetes per humans o per IA, i gairebé només ho encerten per atzar

Un estudi publicat a «Nature Human Behaviour» compara respostes de 636 persones i 37 models d'IA en sis tipus de tasques. Els jutges encerten l'autor entre el 53% i el 57% de les vegades, però fer preguntes de seguiment en una conversa en directe ajuda a desemmascarar la màquina.

Il·lustració generada amb IA: Més de 1.900 persones intenten distingir textos i descripcions d'imatges fetes per humans o per IA, i gairebé només ho encerten per atzar
Il·lustració generada amb IA
Escolta:

La prova que va proposar Alan Turing el 1950 pregunta si una màquina pot fer-se passar per una persona en una conversa. Amb els models de llenguatge actuals, la pregunta ha deixat de ser teòrica, però la majoria d'experiments s'havien limitat a xats curts. Un equip encapçalat per Mengmi Zhang, de la Universitat Tecnològica de Nanyang (Singapur), ha publicat a la revista «Nature Human Behaviour» un estudi que amplia la prova al llenguatge i a la visió, amb l'article «Turing-like tests for language and vision demonstrate a narrowing gap between humans and AI» (DOI 10.1038/s41562-026-02590-6).

L'equip va recollir respostes de 636 persones i de 37 models d'IA en sis categories de tasques, com ara escriure el peu d'una imatge, mantenir una conversa o identificar colors i objectes en fotografies. Després, 1.916 jutges diferents van fer més de 72.000 judicis per decidir qui era l'autor de cada resposta. En les proves principals de llenguatge van encertar entre el 53% i el 57% de les vegades, poc per sobre del 50% que donaria l'atzar; amb els peus d'imatge i les respostes de conversa fetes per IA, l'encert va baixar al 46% i al 47%. Moltes respostes humanes es van atribuir a una màquina.

El treball també va provar què passa quan els jutges poden preguntar el que vulguin. En set converses amb GPT-3.5-Turbo, que tenia instruccions de fer-se passar per una persona, el van descobrir sempre, tot i que l'estil, el temps de resposta o les negatives de seguretat el podien delatar. En un segon experiment més gran, amb el model Llama-3-70B sense salvaguardes, 28 participants i 188 proves, els jutges s'equivocaven, però encertaven més com més s'allargava la conversa. Els autors adverteixen, a més, que imitar bé no vol dir encertar: GPT-4 va descriure correctament unes persones en una platja, però no va veure el truc visual que feia semblar que un home s'aguantava el seu propi cap.

El resultat té límits clars. Les dades principals es van recollir el 2023 i el 2024, amb models com GPT-4o, Claude 3.7 o Llama 3.3, que ja han quedat enrere, i els investigadors van retirar algunes respostes de la IA que eren evidentment defectuoses. Els experiments de conversa en directe i els de transcripcions van fer servir models i instruccions diferents, de manera que no es pot aïllar l'efecte de fer preguntes. L'estudi descriu el que passa en condicions controlades, no la capacitat de la gent per detectar qualsevol text fet amb IA a la vida real.

Mateixa secció

Veure tota la secció →

Butlletí de dissabte

La setmana d’IA, en cinc minuts.