Aquesta setmana, un equip de la Universitat Radboud, als Països Baixos, ha publicat un experiment petit però inquietant. Els participants llegien converses amb un xatbot sobre «El Senyor dels Anells»: unes amb un llenguatge fluid i proper, d'altres amb respostes curtes i seques, i en totes dues versions hi havia errors amagats. El xatbot elegant que s'equivocava va rebre la mateixa nota d'intel·ligència que el sec que ho encertava tot, i prop del vuitanta per cent dels lectors no van detectar les errades. No és una anècdota de laboratori. És la descripció d'una cosa que fem cada dia: confondre la manera de dir amb el que es diu.
La sospita és molt antiga. Al Gòrgias, Plató posa Sòcrates a discutir amb el retòric més famós del seu temps i li fa admetre una distinció decisiva. Hi ha una persuasió que ensenya, que deixa en qui escolta un coneixement, i una altra que només produeix creença, la convicció sense saber. La retòrica que no busca el bé de l'oient, diu Sòcrates, és una forma d'adulació: s'assembla a la medicina com la cuina s'hi assembla, perquè agrada al paladar sense preguntar-se si fa bé al cos. Un orador hàbil, hi afegeix, pot semblar davant d'un públic ignorant més entès que el metge mateix.
La psicologia contemporània ha posat números a aquella intuïció. Rolf Reber i Norbert Schwarz van mostrar el 1999, en un article a «Consciousness and Cognition», que les frases fàcils de llegir, per exemple perquè estan impreses amb més contrast, es jutgen més sovint com a certes. El cervell fa servir la facilitat com a drecera: si una cosa es processa sense esforç, sembla familiar, i el que és familiar sembla verdader. La drecera funciona prou bé en un món on parlar amb soltesa sobre un tema sol exigir haver-lo estudiat. El problema comença quan aquesta relació es trenca.
Els models de llenguatge la trenquen de soca-rel. Són sistemes entrenats per produir text plausible, i la plausibilitat és, justament, fluïdesa. Poden escriure amb la mateixa seguretat una dada exacta i una d'inventada, perquè res en la seva construcció no els obliga a distingir-les. El filòsof Harry Frankfurt va proposar a «On Bullshit», un assaig del 1986 reeditat com a llibre el 2005, una categoria útil per pensar-ho: qui enganya sap la veritat i l'amaga; qui parla per parlar, en canvi, és indiferent a la veritat. No li importa si el que diu és cert, només que faci l'efecte que busca.
El 2024, tres investigadors de la Universitat de Glasgow, Michael Townsen Hicks, James Humphries i Joe Slater, van aplicar aquesta idea als xatbots en un article a la revista «Ethics and Information Technology» amb un títol deliberadament provocador, que en català seria «ChatGPT parla per parlar». La seva tesi és que «al·lucinació» és una mala metàfora, perquè suggereix que la màquina normalment percep la veritat i de tant en tant es distreu. Més aviat, diuen, la veritat no forma part del que el sistema persegueix. Quan encerta, és perquè el text plausible i el text cert sovint coincideixen, no perquè hagi volgut ser fidel als fets.
Això no fa inútils aquestes eines, però ens retorna una responsabilitat que crèiem delegada. Durant segles, l'eloqüència era un indici imperfecte però raonable de competència, i el lector podia rebaixar la guàrdia davant d'un text ben escrit. Ara aquest indici s'ha devaluat, com una moneda que tothom pot imprimir. Els autors de l'estudi de Radboud demanen que les empreses mostrin la incertesa a cada resposta, i té sentit. Però cap avís no substituirà del tot un hàbit que haurem de recuperar: preguntar-nos d'on surt una afirmació abans de preguntar-nos com sona, i desconfiar una mica més del que ens convenç sense cap esforç.
Potser l'ensenyament més valuós de tot plegat és sobre nosaltres i no sobre les màquines. Plató temia els oradors perquè sabia que el públic prefereix qui l'afalaga a qui l'instrueix, i els xatbots, dissenyats per agradar, exploten la mateixa debilitat amb una paciència infinita. La resposta no és tornar a la sequedat, ni deixar d'escriure bé. És recordar que la claredat és una virtut de l'expressió i la veritat, una virtut del contingut, i que no venen sempre juntes. La propera vegada que una resposta ens sembli perfecta, val la pena fer-se la pregunta de Sòcrates: m'ensenya alguna cosa, o només em convenç?