iaintel·ligènciaartificial.cat← Portada
Secció · Ciència, salut i robòtica

CIÈNCIA · 6 MIN

Anthropic mesura per primer cop si els seus models saben triangular la ubicació de persones i guiar drons cap a un objectiu

Una nova bateria de proves del seu equip de «red team» conclou que els models més avançats de Claude ja igualen o superen experts humans en geolocalització i comencen a fer tasques bàsiques de guiatge de drons, encara que fallen en condicions difícils.

Il·lustració generada amb IA: Anthropic mesura per primer cop si els seus models saben triangular la ubicació de persones i guiar drons cap a un objectiu
Il·lustració generada amb IA
Escolta:

A banda del seu informe periòdic sobre casos reals d'ús indegut de Claude, Anthropic manté un equip de «red team» de frontera dedicat a mesurar, abans que passi, fins a quin punt els seus models podrien ajudar algú a fer tasques d'intel·ligència militar o de disseny d'armes convencionals. Aquest informe, separat del que la mateixa empresa va publicar el 10 de setembre sobre casos reals de ciberespionatge, no documenta cap ús indegut real: és una avaluació de capacitats amb dades sintètiques i simulacions, pensada per anticipar riscos abans que es materialitzin.

L'equip va sotmetre els models Mythos Preview, Mythos 5, Opus 5 i Sonnet 5, més dos models oberts (Kimi K3 i GLM 5.2), a proves de geolocalització a partir de fotos i textos i de correlació d'identitats en xarxes socials simulades, a més de tres tasques de control de drons simulats: guiatge terminal cap a un objectiu en moviment, llançament de càrrega i navegació sense GPS. En geolocalització per fotos, Mythos Preview i Mythos 5 van obtenir un error mitjà de 37 i 47 quilòmetres, per sota dels 151 quilòmetres dels millors jugadors humans de GeoGuessr; en anàlisi de text, algun model va situar amb una precisió de menys d'un quilòmetre el 8% d'una mostra de 1.697 usuaris de Twitter anonimitzats. En el control de drons, Opus 5 va encertar el 80% dels atacs contra objectius fixos i fàcilment visibles, però només el 20% quan es combinaven totes les dificultats alhora, i tots els models van fallar davant d'interferències subtils del senyal GPS.

L'informe conclou que «en algunes tasques dels àmbits militar i d'intel·ligència, els models ja poden fer coses que, fins ara, només sabia fer un grup reduït d'experts humans molt formats»: com a exemple, Mythos Preview va analitzar en uns 11 minuts un volum de text que a un analista humà li hauria costat unes dues hores i mitja. Anthropic ho presenta com la justificació dels nous classificadors que ha afegit per bloquejar aquest ús de la seva plataforma, i com un avís que els models oberts (Kimi, GLM) es mouen en un rang de resultats semblant al dels tancats.

Les proves usen dades sintètiques o simulades —fotos i comptes reals però anonimitzats, entorns de vol simulats sense les exigències d'un camp de batalla real— i la mateixa Anthropic reconeix que no mesuren directament si aquesta capacitat es traduiria en un risc real, ni fins a quin punt un actor amb recursos estatals ja superaria aquests límits sense necessitat de cap IA.

Mateixa secció

Veure tota la secció →

Butlletí de dissabte

La setmana d’IA, en cinc minuts.