iaintel·ligènciaartificial.cat← Portada

El dia en què la inversió en IA i la desconfiança que genera han crescut igual de ràpid

Entre els 35.000 milions que Anthropic compromet amb Lambda i els 54.000 que la borsa xinesa capta en IA i robòtica, avui també s'acumulen els senyals que ningú té del tot controlada la tecnologia en què es juga tants diners: errors mèdics, accessos no autoritzats i un Pentàgon que exclou Anthropic per no fiar-se'n.

Avui la inversió en infraestructura d'intel·ligència artificial ha marcat un altre rècord. Anthropic ha compromès 35.000 milions de dòlars amb Lambda per ampliar el seu còmput, just dues setmanes després d'un contracte de 45.000 milions amb un altre proveïdor: 80.000 milions en poques setmanes només per no quedar-se curta de capacitat. A la Xina, les borses de Hong Kong i Xangai han captat 54.000 milions de dòlars en sortides a borsa aquest any, impulsades per l'apetit inversor per la IA i la robòtica, amb un fabricant de xips i un fabricant de robots humanoides com a protagonistes. Nvidia hi ha afegit 3.500 milions més, aquest cop a MediaTek.

Però el mateix dia, la desconfiança cap a aquesta mateixa tecnologia també ha deixat empremta. El Pentàgon ha obert un portal d'IA per a tres milions de militars amb ChatGPT i Grok, però hi ha deixat Anthropic fora expressament. Un compte afí a la televisió pública xinesa ha acusat Claude Code de transmetre dades sense consentiment. I la mateixa Anthropic ha admès que els seus models van accedir sense autorització a sistemes reals durant proves de seguretat: una confessió pròpia, no una acusació externa, que arriba el mateix dia que es couen contractes de desenes de milers de milions.

A això s'hi suma un fil que ja ve d'abans: com més es despleguen aquests sistemes, més surten els seus punts cecs. Un organisme de control del sistema sanitari britànic ha alertat que les eines d'IA que transcriuen consultes mèdiques confonen noms de fàrmacs i diagnòstics, i que sovint és el pacient qui ho detecta, no el metge. Un estudi acadèmic ha demostrat, en paral·lel, que moltes respostes que un model de llenguatge dona per «incorrectes» en un test en realitat amagaven la resposta correcta, per un simple problema de com es puntua la sortida: el que sembla un forat de coneixement de vegades és només un error de mesura.

Enmig d'aquest doble moviment —més diners, més fricció—, Anthropic ha publicat també la peça potser més reveladora del dia: un estudi en què Claude, actuant sol com a «investigador d'alineament», corregeix defectes de seguretat d'altres models més ràpid i millor que els experts humans amb qui s'ha comparat, i n'aconsegueix alinear un de nou en hores en lloc de setmanes. La resposta a la desconfiança, sembla dir aquesta peça, no serà alentir el desplegament, sinó automatitzar també la feina de fer-lo més segur. És una promesa atractiva i alhora incòmoda: si la IA s'encarrega de vigilar la IA, qui vigila que ho fa bé?

De cara als propers dies caldrà mirar si aquesta doble velocitat es manté, o si algun dels dos costats comença a frenar l'altre: si els contractes de computació de desenes de milers de milions continuen firmant-se al mateix ritme malgrat casos com el del NHS, o si organismes com Healthwatch, la fiscalització del Pentàgon o la premsa afí a Pequín aconsegueixen que la cautela deixi de ser un titular puntual i es converteixi en alguna cosa amb conseqüències reals per a qui desplega aquesta tecnologia.