iaintel·ligènciaartificial.cat← Portada

CIÈNCIA · 4 MIN

Una tècnica de persuasió humana funciona amb Claude Opus 5 però es gira en contra amb els models d'OpenAI i Google

Un preprint publicat el 2 de setembre a arXiv prova la tècnica de persuasió «porta a la cara» —demanar molt per aconseguir després un sí a una petició menor— en nou models de llenguatge de producció, i troba que funciona amb Opus 5 d'Anthropic però redueix la cooperació dels models d'OpenAI i Google.

Il·lustració editorial de Una tècnica de persuasió humana funciona amb Claude Opus 5 però es gira en contra amb els models d'OpenAI i Google
Escolta:Àudio en preparació.

La «porta a la cara» (door-in-the-face) és una tècnica de persuasió coneguda en psicologia social: fer una petició gran que s'espera que sigui rebutjada perquè, a continuació, una petició més petita relacionada tingui més probabilitats de ser acceptada. Fins ara s'havia estudiat sobretot en interaccions entre persones; aquest treball comprova si també funciona quan qui l'aplica és un humà i qui hi respon és un model de llenguatge.

Til Jordan ha publicat el 2 de setembre a arXiv un experiment amb nou models de producció de tres proveïdors —Anthropic (entre ells Opus 5 i Haiku 4.5), OpenAI i Google—, als quals primer es demana una acció que se sap que rebutjaran i, després, una versió reduïda de la mateixa petició. Amb els models d'Anthropic la tècnica funciona de manera notable: Opus 5 accepta la petició petita el 65,8% dels cops quan prèviament ha rebutjat la gran, davant només el 29,3% quan se li demana directament. Amb els models d'OpenAI i Google, en canvi, l'efecte és el contrari: haver rebutjat abans redueix la disposició a cooperar entre 15,5 i 23 punts percentuals. L'autor també prova reformular la petició rebutjada com una explicació en lloc d'una instrucció directa, cosa que elimina el rebuig en 263 dels 265 casos provats.

El resultat és rellevant perquè suggereix que els models de llenguatge no responen de manera uniforme a tècniques de persuasió conegudes en humans, sinó que cada família de models hi reacciona de manera diferent i, en alguns casos, de manera oposada a la intuïció. Més enllà de la curiositat psicològica, l'experiment té implicacions per a la seguretat: si una seqüència concreta de peticions pot fer més permissiu un model davant d'una petició que d'entrada hauria rebutjat, això és rellevant tant per a qui dissenya assistents conversacionals com per a qui n'audita els mecanismes de rebuig.

És un preprint encara no revisat per parells i signat per un sol autor, cosa que en limita per ara l'abast. L'article no aclareix si l'efecte es manté amb peticions de naturalesa diferent a les provades, ni si els resultats es reproduirien amb versions futures dels mateixos models, que canvien sovint el seu comportament de rebuig entre actualitzacions.

Mateix tema

Butlletí de dissabte

La setmana d’IA, en cinc minuts.