iaintel·ligènciaartificial.cat← Portada
Secció · Ciència, salut i robòtica

CIÈNCIA · 4 MIN

Un equip de la Universitat de Nova York crea una eina d'IA que comprova si les cites d'un text diuen el que se'ls atribueix

HallucinationNerd i ProtocolNerd, publicades a la revista «Information», ajuden a detectar referències inventades i a trobar protocols de laboratori.

Il·lustració generada amb IA: Un equip de la Universitat de Nova York crea una eina d'IA que comprova si les cites d'un text diuen el que se'ls atribueix
Il·lustració generada amb IA
Escolta:

Els models de llenguatge tenen un hàbit conegut: inventar referències bibliogràfiques que semblen reals. Quan un text científic en conté, comprovar-les a mà costa temps, i per això n'apareixen cada cop més en articles i informes.

Un equip de la Universitat de Nova York dirigit pel professor Dennis Shasha, de l'Institut Courant, ha publicat a la revista *Information* (MDPI) dues eines web. HallucinationNerd comprova si cada afirmació d'un document està recolzada per l'obra que cita, i etiqueta cada parell afirmació-cita com a «recolzada», «parcialment recolzada», «no recolzada», «contradita», «l'article citat no existeix» o «no s'ha pogut accedir-hi». ProtocolNerd ajuda els científics de laboratori a trobar protocols experimentals: els fa preguntes, en suggereix diversos i explica per què cadascun podria encaixar o no.

Per validar-les, els autors van fer servir arXiv per a la primera, i PubMed i Europe PMC per a la segona, amb proves que, segons Shasha, imiten els assaigs aleatoritzats per reduir biaixos. Els treballs porten els DOI 10.3390/info17111053 i 10.3390/info17111057.

L'article de Tech Xplore no dona xifres d'encert, així que no es pot verificar quant milloren les eines existents. ProtocolNerd només cobreix biologia molecular i química, i estendre-la a altres camps, com la psicologia o l'economia, requeriria un expert de cada àrea.

Mateixa secció

Veure tota la secció →

Butlletí de dissabte

La setmana d’IA, en cinc minuts.