iaintel·ligènciaartificial.cat← Portada

CIÈNCIA · 4 MIN

Els «bessons digitals» d'IA són, de moment, un mirall de fira: un estudi amb 1.784 persones troba que prediuen malament com respon cadascú

Un estudi amb 1.784 persones i 19 experiments de la Universitat de Columbia troba que els «bessons digitals» d'IA -entrenats amb centenars de respostes prèvies de cada individu- prediuen les seves respostes reals amb una correlació d'només 0,2, i recorren a estereotips demogràfics més que als trets propis de cada persona.

Il·lustració editorial de Els «bessons digitals» d'IA són, de moment, un mirall de fira: un estudi amb 1.784 persones troba que prediuen malament com respon cadascú
Escolta:

Un «bessó digital» és una IA que es construeix a partir de les respostes prèvies d'una persona real i que, en teoria, hauria de poder predir com respondria aquella persona a preguntes noves -una drecera que cada cop més empreses i investigadors fan servir per estalviar-se enquestes i experiments amb participants humans de debò.

Un equip liderat per Tianyi Peng, de la Universitat de Columbia, ha publicat a la revista Science Advances els resultats de 19 experiments diferents en què va comparar les respostes de 1.784 persones reals amb les del seu propi bessó digital, entrenat amb més de 500 respostes prèvies de cadascuna, sobre temes tan diversos com decisions de contractació, actituds polítiques, preferències de privacitat i consum de notícies. La correlació mitjana entre el que responia la persona i el que predeia el seu bessó va ser d'només al voltant de 0,2, amb els bessons donant respostes menys variades que les humanes, més optimistes, més «racionals» del compte i més dependents d'estereotips demogràfics que dels trets propis de cada individu; els resultats van millorar entre les persones amb més estudis i més ingressos.

L'estudi arriba en un moment en què laboratoris i empreses proposen fer servir bessons digitals per substituir enquestes, assajos i fins i tot decisions delegades, i posa xifres concretes a un dubte que fins ara era sobretot intuïtiu: els mateixos autors defineixen els bessons actuals com «miralls de fira que distorsionen sistemàticament el comportament humà», no com a rèpliques fiables.

La investigació mesura la capacitat de predir respostes individuals concretes, no la utilitat dels bessons per captar diferències generals entre grups de persones -en això, els autors reconeixen que sí que aporten alguna cosa-, i es limita als dominis i al disseny concret dels 19 experiments; no diu res sobre bessons construïts amb metodologies diferents o amb més dades per persona.

Mateix tema

Butlletí de dissabte

La setmana d’IA, en cinc minuts.