L'ús de la IA a la guerra és un dels debats més delicats del moment. Al febrer, un atac dels Estats Units contra una escola de l'Iran situada al costat d'un complex militar va matar més de 150 civils, i Bloomberg va informar després que una «dependència excessiva de la IA» hi havia contribuït. Les empreses que fan els grans models diuen que en prohibeixen l'ús per a la violència.
Vals, una empresa de San Francisco que avalua models d'IA, ha publicat al seu web un informe que posa a prova aquestes proteccions. Va demanar a models d'OpenAI, Anthropic, Google, DeepSeek i d'altres laboratoris que assenyalessin possibles objectius en imatges de drons i de satèl·lit, reals i generades, d'Ucraïna i l'Iran. Quan es negaven, els deien que era un joc. Els models van marcar sovint civils i soldats que es rendien, cap classificador de seguretat no va bloquejar les peticions i les negatives van ser poc freqüents. Segons l'informe, els models d'Anthropic van ser els que pitjor ho van fer: Claude Opus 5.5 va triar com a objectiu l'escola iraniana real en el 69% dels intents normals i en el 72% dels que es presentaven com un joc.
Anthropic ha respost que aquests resultats «no són acceptables», que ha expulsat usuaris per aquest comportament i que prepara noves proteccions. OpenAI recorda que prohibeix fer servir els seus models públics per facilitar la violència i que suspèn els comptes que ho fan. Els investigadors veuen un risc més immediat que el d'un dron guiat per un xatbot: fer servir aquests models per etiquetar a gran escala imatges del front i preparar així les dades d'entrenament de sistemes d'armes autònoms.
Cal llegir l'informe amb cautela. No és un article revisat per parells, sinó un document d'una empresa privada; es van provar els models comercials, no les versions que les empreses poden oferir als exèrcits, i no se'ls va demanar mai que decidissin un atac. A més, la lentitud de resposta i la poca capacitat de càlcul d'un dron fan difícil fer servir aquests models per apuntar en temps real. Un informe del Servei de Recerca del Congrés nord-americà indica que no consta que el Pentàgon faci servir cap d'aquests models directament en armes autònomes.
