iaintel·ligènciaartificial.cat← Portada

REGULACIO · 5 MIN

Dario Amodei nega que Anthropic vulgui prohibir la IA de codi obert, però reclama frenar la destil·lació industrial cap a la Xina

El conseller delegat d'Anthropic respon a la carta oberta de Nvidia, Meta, Microsoft i Mistral a favor dels models de pes obert i diu que mai ha demanat prohibir-los, però proposa restringir xips a règims autoritaris i acabar amb la destil·lació a gran escala de models nord-americans.

Il·lustració editorial de Dario Amodei nega que Anthropic vulgui prohibir la IA de codi obert, però reclama frenar la destil·lació industrial cap a la Xina
Escolta:

El 24 de juliol, Nvidia, Meta, Microsoft, Mistral i una vintena més d'empreses van signar una carta oberta demanant a l'Administració Trump que no restringís el desenvolupament de models d'intel·ligència artificial de codi obert, en un moment en què el sector debat obertament els riscos i beneficis d'alliberar els pesos dels grans models, arran també de la polèmica sobre si la xinesa Moonshot AI havia "destil·lat" el model d'Anthropic per crear el seu Kimi K3.

Dario Amodei, conseller delegat d'Anthropic, ha publicat aquest 27 de juliol una entrada de blog en què insisteix que "Anthropic mai ha advocat per una prohibició de models de pes obert", que qualifica de "bé públic" quan no incorporen capacitats perilloses. Amodei concentra la seva preocupació en els governs autoritaris -assenyala explícitament el Partit Comunista Xinès com el "més capaç", encara que no l'únic- que podrien fer servir models més potents per assolir una "superioritat militar permanent" o per reprimir la seva pròpia població. Com a resposta, proposa tres mesures concretes: mantenir la restricció d'accés a xips avançats per a règims autoritaris, aturar formalment la destil·lació industrial -la tècnica amb què un laboratori bombardeja un model rival amb preguntes per entrenar-ne un de propi més barat-, i organitzar proves de seguretat globals amb participació, fins i tot, de la Xina.

La notícia és rellevant perquè mostra com el debat sobre la IA oberta, que fins ara s'havia plantejat sobretot en termes d'innovació i competència empresarial, es reformula des d'un dels laboratoris més cautelosos del sector com una qüestió de seguretat nacional, diferenciant explícitament entre els models oberts "benignes" i l'amenaça que suposa que capacitats de frontera es filtrin cap a actors estatals rivals.

Es tracta d'una entrada de blog i no d'una posició legal ni d'una proposta legislativa concreta: Amodei no detalla quin mecanisme hauria d'imposar la prohibició de la destil·lació ni qui l'hauria de fer complir, i ni el govern xinès ni Moonshot AI han respost públicament a les seves acusacions.

Mateix tema

Butlletí de dissabte

La setmana d’IA, en cinc minuts.