iaintel·ligènciaartificial.cat← Portada

GOVERNANÇA · 4 MIN

Anthropic, OpenAI i Google negocien en secret des de juliol un organisme conjunt d'estàndards de seguretat per a la IA

Els tres laboratoris debaten en grups de treball discrets, des d'abans que Dario Amodei fes pública la seva crida a «pacar la frontera», protocols compartits d'avaluació i revisió prèvia al llançament dels seus models, però discrepen sobre quin paper hi ha de tenir el govern.

Il·lustració editorial de Anthropic, OpenAI i Google negocien en secret des de juliol un organisme conjunt d'estàndards de seguretat per a la IA
Escolta:

Mentre el debat públic sobre «pacar la frontera» de la IA es lliurava aquest cap de setmana entre assaigs, declaracions a la premsa i missatges a les xarxes socials, una altra conversa, molt més discreta, ja fa mesos que avança entre bastidors: Anthropic, OpenAI i Google mantenen des de juliol reunions de grups de treball per explorar la creació d'un organisme conjunt, liderat pel sector, d'estàndards de seguretat per a la IA.

Segons ha revelat The Information, aquestes converses són anteriors a la crida pública de Dario Amodei d'aquest cap de setmana perquè el sector freni deliberadament el ritme de millora dels models. El 14 de juliol, Demis Hassabis, conseller delegat de Google DeepMind, ja havia proposat per separat un «Organisme d'Estàndards d'IA de Frontera» amb seu als Estats Units i inspirat en la FINRA, l'entitat que supervisa els agents de borsa nord-americans; la proposta gira al voltant de protocols compartits per provar els models de frontera abans de llançar-los, amb avaluacions independents, revisions de seguretat prèvies a la publicació i valoracions de risc estandarditzades. Les tres empreses, però, discrepen sobre quant de pes hi hauria de tenir el govern: Sam Altman, d'OpenAI, ha dit que els laboratoris haurien de construir aquest organisme ells mateixos, sense suport governamental, tot i que l'empresa alhora dona suport a lleis concretes d'àmbit estatal; Anthropic s'inclina més obertament cap a una col·laboració amb reguladors, amb el seu cap de l'equip vermell defensant estàndards desenvolupats conjuntament amb les autoritats.

Que els tres laboratoris que competeixen més directament per la frontera de la IA discuteixin en privat una estructura d'autoregulació des de fa mesos, mentre en públic es disputen si cal «pacar» el ritme o no, mostra que la pressió per coordinar-se en seguretat no és només una resposta improvisada a l'assaig d'Amodei, sinó una preocupació que ja s'havia instal·lat abans en les converses internes del sector. També explica per què les reaccions públiques dels tres consellers delegats a la crida d'Amodei —d'acord en el principi, però amb matisos diferents sobre el paper del govern— no van sorgir del no-res.

De moment es tracta de grups de treball exploratoris, no d'un organisme constituït ni de cap protocol tècnic acordat: no hi ha calendari públic per formalitzar-lo, ni es descriuen mecanismes concrets de compliment ni de sanció per a les empreses que no en respectin els estàndards, i la mateixa font reconeix que les discrepàncies sobre l'arrel governamental del projecte podrien acabar-lo frenant abans que es materialitzi.

Mateix tema

Veure tot el tema →

GOVERNANÇA · 5 MIN

ACTUALITZACIÓ: Amodei compara la cursa de la IA amb la Xina a la Guerra Freda i demana «negociacions de desarmament»; Sacks ho acusa de voler un «control governamental»

En una entrevista a la CBS, el conseller delegat d'Anthropic equipara el risc de la IA amb els 10.000 míssils nuclears que EUA i l'URSS es van apuntar mútuament i proposa parlar amb Pequín per posar-hi un «límit de velocitat»; David Sacks respon que la seva crida busca «espantar» el públic per justificar una intervenció estatal.

Butlletí de dissabte

La setmana d’IA, en cinc minuts.