Anthropic i OpenAI mantenen polítiques que prohibeixen l'ús comercial dels seus models a la Xina i per part d'entitats vinculades als militars xinesos, en un moment en què Washington intensifica els controls a l'exportació de tecnologia d'intel·ligència artificial cap al país. Malgrat això, una investigació periodística mostra que investigadors amb vincles militars hi han accedit igualment.
Reuters, a partir de l'anàlisi de més de 80 articles acadèmics i patents publicats a la Xina, revela que la Unitat 96941 de l'Exèrcit Popular d'Alliberament (EPA), dedicada a intel·ligència militar i guerra cibernètica a Pequín, va fer servir GPT-3.5 d'OpenAI per resumir codi font de programari militar sensible i entrenar-hi després un model domèstic destinat a operar dins de xarxes militars xineses. Investigadors de la North University of China, amb vincles amb la indústria armamentística, van utilitzar Claude 3 Haiku d'Anthropic per generar dades sintètiques d'entrenament per a un classificador de vigilància i moderació de continguts a xarxes socials. Reuters també documenta que la National University of Defense Technology de l'EPA va aplicar tècniques de destil·lació a partir de models similars per processar vídeo de drons no tripulats el 2024, i que l'Acadèmia de Ciències Militars ha publicat enguany treballs sobre reconeixement d'objectius en operacions marítimes simulades amb drons i submarins no tripulats.
La notícia és rellevant perquè posa en dubte l'eficàcia real de les restriccions d'ús que OpenAI i Anthropic diuen aplicar a la Xina, en un moment en què el debat sobre la destil·lació de models nord-americans per part d'actors xinesos ja ha protagonitzat altres episodis recents, i perquè mostra que el doble ús de models civils per part d'entitats vinculades als exèrcits és més difícil de controlar del que suggereixen les polítiques corporatives.
Anthropic ha respost que no dona accés comercial a Claude a la Xina ni a empreses controlades per Pequín i que fa servir sistemes de monitoratge per detectar incompliments de política, però Reuters no detalla com exactament aquests investigadors van accedir als models, OpenAI no ha fet cap declaració recollida a l'article, i es desconeix l'abast real o el volum d'ús que n'han fet aquestes unitats.