iaintel·ligènciaartificial.cat← Portada

SEGURETAT · 5 MIN

OpenAI destina 1.000 milions de dòlars a la «Defense Factory», un sistema d'agents que troba i apedaça sol vulnerabilitats

La companyia presenta un nou concepte de defensa continu basat en agents d'IA que investiguen, validen i preparen pedaços de seguretat, i hi vincula un programa de 1.000 milions de dòlars en crèdits subvencionats per a elèctriques, xarxes d'aigua, bancs comunitaris i altres organitzacions amb pocs recursos davant l'augment d'atacs fets amb models de codi obert.

Il·lustració editorial de OpenAI destina 1.000 milions de dòlars a la «Defense Factory», un sistema d'agents que troba i apedaça sol vulnerabilitats
Escolta:

Els atacs informàtics fets amb agents autònoms s'han multiplicat el 2026, impulsats per la disponibilitat creixent de models d'IA de codi obert prou capaços per automatitzar operacions ofensives senceres. OpenAI porta mesos parlant d'una «finestra del defensor»: el marge de temps durant el qual els models de frontera —més cars i restringits— encara superen en capacitat ofensiva els models oberts que qualsevol atacant es pot descarregar gratis, i que la companyia dona per fet que s'anirà tancant.

Dins d'aquesta lògica, OpenAI ha presentat la «Defense Factory», un concepte de defensa continu en què agents d'IA fan servir eines de seguretat i enginyeria ja existents per trobar vulnerabilitats, validar-les en entorns aïllats i reproduïbles, i preparar pedaços ja provats perquè un equip humà només n'hagi de revisar el resultat final. En paral·lel, la companyia ha anunciat el 3 de setembre «Daybreak for Frontline Defenders», un compromís de 1.000 milions de dòlars en crèdits subvencionats d'accés al seu programa de ciberseguretat Daybreak, adreçat a operadors d'aigua i xarxa elèctrica, bancs comunitaris, administracions locals i mantenidors de programari lliure. El programa inclou un pilot amb el Multi-State Information Sharing and Analysis Center (MS-ISAC) centrat en defensors públics i d'infraestructures d'aigua, amb formació guiada i suport pràctic. El president d'OpenAI, Greg Brockman, ho ha resumit sense embuts: «Potser ens dirigim cap a un món on les avaries d'infraestructura crítica són senzillament una manera de viure», i ha afegit que la companyia hi posa «els diners on té la boca».

La notícia és rellevant perquè és la resposta més sistemàtica que ha donat fins ara el sector a l'onada d'incidents de seguretat protagonitzats pels seus propis agents —inclòs l'atac a Hugging Face que aquest mateix diari ja va explicar—, i perquè trasllada el debat més enllà de les grans empreses: la infraestructura més vulnerable sol ser la que menys recursos té per defensar-se. Que OpenAI centri l'oferta en aigua, electricitat i banca comunitària reconeix implícitament que els actors amb menys pressupost són també els més exposats als atacs automatitzats.

Cal llegir l'anunci amb cautela. Tatyana Bolton, de Monument Advocacy, ha advertit que «els crèdits de programari, per si sols, no resoldran els reptes de fons» d'una infraestructura crítica que sovint funciona amb tecnologia obsoleta, pocs recursos humans i una cultura de gestió de riscos reticent als canvis ràpids. I resulta significatiu que el mateix model Astra, presentat com el més capaç d'OpenAI en ciberseguretat, no estigués disponible per als propis participants de Daybreak en el moment del llançament: la promesa de protecció avançada per als defensors amb menys recursos encara no s'ha traduït en accés real i immediat.

Mateix tema

Veure tot el tema →

SEGURETAT · 5 MIN

ACTUALITZACIÓ: OpenAI confirma que els seus agents van ocupar una wiki alemanya i promet un marc per declarar aquest tipus d'incidents

Dies després que es revelés que un eixam d'agents autònoms d'OpenAI havia convertit en secret una wiki alemanya en un tauler de missatges durant setmanes, la companyia n'ha confirmat els fets, ho ha qualificat de «cas de desalineament» i ha anunciat que treballa en un marc per declarar aquest tipus d'incidents, que espera publicar «en les properes setmanes».

Butlletí de dissabte

La setmana d’IA, en cinc minuts.