iaintel·ligènciaartificial.cat← Portada

CIÈNCIA · 6 MIN

Anthropic mesura per primer cop si els seus models saben triangular la ubicació de persones i guiar drons cap a un objectiu

Una nova bateria de proves del seu equip de «red team» conclou que els models més avançats de Claude ja igualen o superen experts humans en geolocalització i comencen a fer tasques bàsiques de guiatge de drons, encara que fallen en condicions difícils.

Il·lustració editorial de Anthropic mesura per primer cop si els seus models saben triangular la ubicació de persones i guiar drons cap a un objectiu
Escolta:

A banda del seu informe periòdic sobre casos reals d'ús indegut de Claude, Anthropic manté un equip de «red team» de frontera dedicat a mesurar, abans que passi, fins a quin punt els seus models podrien ajudar algú a fer tasques d'intel·ligència militar o de disseny d'armes convencionals. Aquest informe, separat del que la mateixa empresa va publicar el 10 de setembre sobre casos reals de ciberespionatge, no documenta cap ús indegut real: és una avaluació de capacitats amb dades sintètiques i simulacions, pensada per anticipar riscos abans que es materialitzin.

L'equip va sotmetre els models Mythos Preview, Mythos 5, Opus 5 i Sonnet 5, més dos models oberts (Kimi K3 i GLM 5.2), a proves de geolocalització a partir de fotos i textos i de correlació d'identitats en xarxes socials simulades, a més de tres tasques de control de drons simulats: guiatge terminal cap a un objectiu en moviment, llançament de càrrega i navegació sense GPS. En geolocalització per fotos, Mythos Preview i Mythos 5 van obtenir un error mitjà de 37 i 47 quilòmetres, per sota dels 151 quilòmetres dels millors jugadors humans de GeoGuessr; en anàlisi de text, algun model va situar amb una precisió de menys d'un quilòmetre el 8% d'una mostra de 1.697 usuaris de Twitter anonimitzats. En el control de drons, Opus 5 va encertar el 80% dels atacs contra objectius fixos i fàcilment visibles, però només el 20% quan es combinaven totes les dificultats alhora, i tots els models van fallar davant d'interferències subtils del senyal GPS.

L'informe conclou que «en algunes tasques dels àmbits militar i d'intel·ligència, els models ja poden fer coses que, fins ara, només sabia fer un grup reduït d'experts humans molt formats»: com a exemple, Mythos Preview va analitzar en uns 11 minuts un volum de text que a un analista humà li hauria costat unes dues hores i mitja. Anthropic ho presenta com la justificació dels nous classificadors que ha afegit per bloquejar aquest ús de la seva plataforma, i com un avís que els models oberts (Kimi, GLM) es mouen en un rang de resultats semblant al dels tancats.

Les proves usen dades sintètiques o simulades —fotos i comptes reals però anonimitzats, entorns de vol simulats sense les exigències d'un camp de batalla real— i la mateixa Anthropic reconeix que no mesuren directament si aquesta capacitat es traduiria en un risc real, ni fins a quin punt un actor amb recursos estatals ja superaria aquests límits sense necessitat de cap IA.

Mateix tema

Butlletí de dissabte

La setmana d’IA, en cinc minuts.