iaintel·ligènciaartificial.cat← Portada
Secció · Ciència, salut i robòtica

CIÈNCIA · 4 MIN

Vint experts proposen a «Nature Communications» protegir per capes les IA que dissenyen ADN i proteïnes abans que esdevinguin un risc

Un equip internacional encapçalat pel Centre Mèdic Universitari de Magúncia demana controls en les dades d'entrenament, en els models i en la fabricació de material biològic. Reconeix que avui no hi ha cap prova que la IA pugui crear patògens nous més perillosos.

Il·lustració generada amb IA: Vint experts proposen a «Nature Communications» protegir per capes les IA que dissenyen ADN i proteïnes abans que esdevinguin un risc
Il·lustració generada amb IA
Escolta:

Els models d'IA ja no només analitzen dades biològiques: també proposen seqüències noves d'ADN, d'ARN i de proteïnes, una capacitat que accelera la recerca de fàrmacs i vacunes. La pregunta que es fan des de fa temps els especialistes en seguretat biològica és com evitar que aquestes mateixes eines es facin servir per fer mal, sense frenar la recerca legítima.

Un grup internacional i interdisciplinari encapçalat per Maximilian Sprang, del Centre Mèdic Universitari de Magúncia i de la Universitat Johannes Gutenberg, hi respon a la revista «Nature Communications» amb l'article «A defence-in-depth strategy for securing AI-driven biological sequence design» (DOI 10.1038/s41467-026-78758-5). El text neix d'un taller de tres dies que la fundació Wübben Stiftung Wissenschaft va reunir el novembre del 2025, amb vint experts en biologia molecular, IA, bioinformàtica, ètica, medicina i política. La proposta és una protecció per capes, que no depengui d'un sol filtre: controls sobre les dades d'entrenament, sobre els models i sobre la fabricació final del material biològic. Concretament, demanen accés per nivells a les dades més sensibles sobre patògens, en lloc de triar entre obert o tancat; que els finançadors valorin el risc biològic quan avaluen els projectes; que els qui fan funcionar els models n'analitzin el risc durant tot el cicle de vida, idealment amb experts independents, i més verificació d'identitat i més seguiment dels equips de síntesi.

El treball és rellevant perquè posa en un mateix marc mesures que fins ara es discutien per separat i perquè evita la temptació de prohibir. Els autors defensen que cal «avaluar de manera realista què és capaç de fer ja la IA i entendre'n els riscos d'hora», i que les salvaguardes han de permetre la recerca responsable, no aturar-la.

Cal llegir-lo pel que és: una proposta de polítiques signada per experts i revisada per una revista científica, no un experiment amb resultats nous. Els mateixos autors reconeixen que avui no hi ha cap prova que la IA pugui dissenyar patògens completament nous i més perillosos per a les persones, i que la preocupació es refereix a models futurs més potents. Les mesures que proposen tampoc no s'han provat, i aplicar-les dependrà de governs, finançadors i empreses que no s'hi han compromès.

Mateixa secció

Veure tota la secció →