Quan un model de llenguatge ens respon amb precisió sobre el dol, la poma o el vertigen, és difícil no sentir que hi ha algú que entén. El text és coherent, matisat i sovint més clar que el que escriuríem nosaltres. Però la fluïdesa és una prova enganyosa, perquè entre nosaltres tenim el costum de donar per fet que qui parla bé sap de què parla. La pregunta antiga, què vol dir entendre alguna cosa, ha tornat amb una urgència inesperada, ara que tenim màquines que dominen la forma del llenguatge sense haver passat mai pel món que aquest llenguatge descriu.
El 1980 el filòsof John Searle va proposar un experiment mental a «Minds, Brains, and Programs». Imaginem-nos tancats en una habitació amb un llibre de regles per combinar signes xinesos que no coneixem. Des de fora, algú ens passa preguntes i nosaltres, seguint les regles, retornem respostes impecables. Searle sosté que, per molt bé que ho fem, no entenem ni una paraula: manipulem símbols per la seva forma, no pel seu sentit. La sintaxi, diu, no basta per a la semàntica. L'argument va ser molt discutit, però va fixar els termes del debat.
Les objeccions més serioses li van recordar que potser el sistema sencer, i no la persona de l'habitació, és qui entén, o que un programa connectat amb sensors i cos podria ancorar els símbols en el món. Quaranta anys després, els models actuals donen una tercera versió del dilema. Emily Bender i Alexander Koller, a «Climbing towards NLU» (2020), argumenten que un sistema entrenat només amb forma no pot aprendre'n el significat. Ho il·lustren amb un pop que escolta, des del fons del mar, la conversa entre dues persones per cable i acaba imitant-la, fins que li demanen ajuda davant d'un ós i no sap què fer.
Sembla una victòria fàcil per als escèptics, però no ho és tant. Ludwig Wittgenstein, a les «Investigacions filosòfiques», va defensar que el significat d'una paraula és sovint el seu ús dins d'una pràctica compartida. Si és així, els models no viuen en un buit: han après milions d'usos humans reals i en reprodueixen les regles amb una fidelitat sorprenent. El que els falta no és tant la paraula com la vida que la sosté, la fam, el fred o la por de perdre algú. La discussió, doncs, no és si els models fan servir bé el llenguatge, sinó si això és tot el que cal.
Aquesta distinció ajuda a no caure en dos errors oposats. Un és l'entusiasme de qui conclou que, com que respon com algú que entén, entén. L'altre és el menyspreu de qui diu que només és un lloro estadístic, expressió que Bender i altres autors van popularitzar el 2021 i que descriu un risc real, però que no explica per què ens poden ajudar tant a resoldre problemes. Potser el sentit no és una cosa tot o res. Pot haver-hi graus de contacte amb el món, i una màquina que només té text en té un de molt particular.
Les conseqüències són més pràctiques que no sembla. Si un sistema domina la forma però no té cap cost en equivocar-se, no l'afecta mentir ni s'avergonyeix d'una mala interpretació. Per això convé usar-lo com a interlocutor i no com a testimoni: una veu útil per proposar, resumir i comparar, però que no pot respondre del que diu de la manera com ho fa una persona. Entendre, entre humans, inclou un compromís amb el que s'ha entès, i això no s'obté només ordenant paraules amb habilitat.
Potser el millor que ens deixa aquesta discussió és una mirada més clara cap a nosaltres. Tendim a pensar que entendre és una facultat interior que s'activa sola, quan tantes vegades és un entramat de cos, memòria i relacions. Els models no ens donen la resposta, però ens obliguen a formular la pregunta amb més cura: quan diem que algú ens comprèn, què esperem exactament? Mentre no ho sapiguem dir, convé tractar amb respecte i prudència aquests interlocutors fluïts, sense concedir-los ni negar-los més del que podem justificar.