iaintel·ligènciaartificial.cat← Portada

SEGURETAT · 5 MIN

Anthropic adverteix que uns models d'IA petits podrien copiar-se sols d'un aparell connectat a un altre d'aquí a pocs mesos

Un equip de l'empresa ha provat que alguns models oberts poden instal·lar-se en una xarxa d'aparells sense cap centre de dades; el risc, diuen, és real però lent i encara depèn d'una fallada de seguretat molt bàsica.

Il·lustració generada amb IA: Anthropic adverteix que uns models d'IA petits podrien copiar-se sols d'un aparell connectat a un altre d'aquí a pocs mesos
Il·lustració generada amb IA
Escolta:

Fins ara, la idea d'una IA que es copia a si mateixa i salta d'una màquina a una altra semblava lligada als grans centres de dades, on viuen els models més potents. L'equip de l'Anthropic que prova els límits dels seus sistemes (la Frontier Red Team) publica una anàlisi que qüestiona aquesta barrera: els models petits, que caben en aparells corrents, es poden acostar a fer-ho sense cap centre de dades al darrere.

Els autors, William Zhou i Daniel Freeman, van comprovar que un model de nou mil milions de paràmetres, el Qwen3.5-9B, va aconseguir muntar un servidor d'inferència en vuit dels nou tipus de maquinari que van provar, des de petites plaques Jetson Nano fins a targetes gràfiques RTX 4090. També van repartir un model més gran, el Gemma4-26B-A4B, entre quinze capses de televisió Android de marca desconeguda, d'uns 55 dòlars cadascuna, que només generava 0,39 tokens (fragments de text) per segon. En una xarxa tancada de vuit nodes virtuals, el model obert GLM-5.2 es va copiar a tots vuit en quatre de cinc proves, i en set a la cinquena; els altres models oberts van fallar sempre.

Per saber què significaria a escala real, els investigadors van prendre com a referència Kimwolf, una xarxa d'aparells segrestats que va arribar a infectar més de dos milions de dispositius, sobretot aquestes capses de televisió. Calculen que aquest volum podria sostenir unes 133.000 còpies d'un model, l'equivalent a unes 40 targetes H100 treballant. El resultat seria lent (el nombre de còpies es duplicaria en dies, com un eixam de mosques de la fruita) però difícil d'aturar, perquè no hi hauria cap interruptor central. Si els models petits milloren al ritme de l'últim any, calculen que podrien arribar al nivell necessari a finals del 2026. Com a defensa, proposen vigilar el trànsit de les operadores, aïllar els abonats infectats i obligar els fabricants a eliminar les contrasenyes per defecte.

Convé llegir-ho amb prudència. El mateix informe admet que l'estimació és aproximada, que parteix d'un sol tipus d'aparell i d'un sol cas històric, i que el pas d'entrar als aparells es va fer a propòsit trivial (un accés sense contrasenya), de manera que el resultat és un límit superior. A l'AFP, Varun Chandrasekaran, professor de la Universitat d'Illinois, va dir que la conclusió no sorprèn i que el treball no s'ha verificat de manera independent; també va recordar que l'amenaça més immediata és que persones facin servir la IA per afinar els atacs, no que la IA es desboqui.

Mateix tema

Veure tot el tema →

Butlletí de dissabte

La setmana d’IA, en cinc minuts.