El progrés científic no consisteix només a trobar la solució correcta a un problema, sinó a entendre per què funciona i fer servir aquest coneixement per dissenyar el següent experiment. A mesura que els agents d'IA s'utilitzen cada cop més per accelerar la recerca científica, queda oberta una pregunta de fons: quan un agent «encerta» un resultat, ho fa perquè n'entén el mecanisme o perquè ha après a optimitzar una mètrica sense comprendre-la?
Un equip que inclou Eric S. Lander —cofundador del Broad Institute i antic assessor científic en cap de la presidència dels Estats Units— i Pardis C. Sabeti, coneguda pel seu treball en vigilància genòmica de patògens, ha publicat el 31 d'agost a arXiv «Science sandboxes measure the scientific capability of AI agents». El treball proposa un marc de cicles repetits d'experimentació, retroalimentació i revisió d'hipòtesis, amb entorns que van des de «humits» (experiments físics reals) fins a «secs» (sistemes de regles inventades), passant per models predictius entrenats amb dades empíriques. Els autors l'han posat a prova en dos àmbits de biologia —la genòmica reguladora i la predicció de l'aptitud de proteïnes— i han comprovat que els agents de capa frontera poden optimitzar una mètrica quantitativa sense arribar a entendre les regles que la governen, i que el seu raonament científic empitjora precisament quan el sistema que se'ls presenta s'allunya dels patrons biològics que ja coneixien.
El resultat és rellevant perquè, a mesura que laboratoris i empreses aposten pels agents d'IA per accelerar el disseny de fàrmacs, materials o experiments genòmics, cal poder distingir un agent que raona de debò sobre el mecanisme subjacent d'un que simplement ha après a «encertar» la resposta esperada en el context que ja coneix. El mètode dels «science sandboxes» ofereix una manera controlada i reutilitzable de mesurar aquesta diferència, en lloc de confiar només en si la resposta final «sembla» correcta, i la implicació de figures de pes en genòmica computacional en reforça la credibilitat.
És un preprint encara no revisat per parells, provat només en dos àmbits concrets de biologia, de manera que no queda clar si les conclusions es mantindrien en química, física o altres disciplines. El marc dels «science sandboxes» és nou i la seva pròpia robustesa i reproductibilitat en altres laboratoris encara no s'ha comprovat, i l'estudi no quantifica com de a prop estan els agents actuals de tancar aquesta bretxa de raonament: només en constata l'existència i com s'agreuja davant d'allò desconegut.