A mesura que els sistemes d'IA s'incorporen a àmbits amb un component moral evident —recomanacions mèdiques, decisions de contractació, assessorament legal—, la pregunta de si la gent hi confia igual que confiaria en un raonament humà ha deixat de ser només filosòfica. Basile Garcia, Crystal Qian i Stefano Palminteri, investigadors de Google DeepMind, hi han volgut posar xifres amb un experiment dissenyat com una mena de «test de Turing moral».
L'estudi, publicat el 5 d'agost a la revista PLOS One, va exposar els participants a justificacions per a decisions morals i no morals, generades unes per persones i altres per grans models de llenguatge, i els va demanar dues coses: endevinar qui n'era l'autor i dir si hi estaven d'acord. Els resultats mostren una precisió de detecció «consistentment per sobre de l'atzar» però sempre per sota del 75%, és a dir, que els participants distingeixen humans de màquines millor que si triessin a l'atzar, però estan lluny de fer-ho amb fiabilitat. No hi va haver una preferència general pels textos humans —de fet, en els dilemes morals més complexos els participants van valorar millor les justificacions generades per IA—, però es va detectar el que els autors anomenen un biaix sistemàtic anti-IA: quan els participants creien que un judici l'havia escrit una màquina, hi estaven menys d'acord, independentment de qui l'hagués escrit realment. Marcadors purament lingüístics —la llargada de la resposta, errates, l'ús de pronoms en primera persona o paraules amb càrrega de cost-benefici com «vides» o «estalviar»— van influir tant en la capacitat de detectar l'autoria com en el grau d'acord amb el contingut.
La notícia és rellevant perquè demostra, amb dades experimentals i no només amb intuïció, que la creença sobre l'origen d'un missatge —no el seu contingut real— pot canviar per si sola si les persones hi estan d'acord. En un moment en què cada vegada més eines assistides per IA emeten recomanacions amb implicacions ètiques, aquest biaix pot condicionar tant l'acceptació de sistemes fiables com la confiança excessiva en sistemes que, presentats com a humans, no ho són.
L'estudi es basa en dilemes i justificacions presentats en un entorn experimental controlat, no en decisions reals amb conseqüències tangibles per als participants, de manera que no és segur que el mateix biaix es mantingui igual quan hi ha alguna cosa concreta en joc. Els autors tampoc detallen amb precisió la mida ni la composició demogràfica de la mostra en els resums disponibles, una informació que caldrà revisar en la publicació completa per valorar fins a quin punt els resultats es poden generalitzar.