iaintel·ligènciaartificial.cat← Portada

GOVERNANÇA · 4 MIN

ACTUALITZACIÓ: Sam Altman i Elon Musk es sumen a la crida de Dario Amodei per «pacar la frontera» de la IA

El conseller delegat d'OpenAI diu que està d'acord a «pacar la frontera» i que l'empresa igualarà el compromís d'obrir-se a avaluadors externs que Amodei va anunciar dissabte; Musk hi dona suport amb un missatge de dues paraules.

Il·lustració editorial de ACTUALITZACIÓ: Sam Altman i Elon Musk es sumen a la crida de Dario Amodei per «pacar la frontera» de la IA
Escolta:Àudio en preparació.

Dario Amodei, conseller delegat d'Anthropic, va publicar dissabte un assaig on demanava a tot el sector «pacar la frontera»: frenar deliberadament la velocitat amb què milloren les capacitats dels models d'IA. Hi proposava tres passos concrets —avaluadors externs incrustats a les empreses amb accés equiparable al d'un equip de risc intern, estàndards de seguretat comuns entre els laboratoris de països democràtics i coordinació internacional, fins i tot amb governs autoritaris, per limitar usos perillosos com les armes biològiques—, i es comprometia unilateralment a obrir Anthropic a organitzacions com METR.

Sam Altman, conseller delegat d'OpenAI, hi ha respost públicament: «Estic d'acord amb Dario que cal pacar la frontera. Ha estat un tema principal de les converses que hem tingut a OpenAI les últimes setmanes», ha escrit, i ha afegit que OpenAI igualaria el compromís d'obrir-se a avaluadors independents, amb «més detalls a compartir aviat». Elon Musk, que no dirigeix cap dels dos laboratoris però hi té interessos a través de xAI, ha reaccionat amb un missatge encara més curt: «Dario té raó».

Que els caps de les dues empreses que competeixen més directament per la frontera de la IA es posin d'acord públicament amb la proposta d'un tercer rival trenca amb la dinàmica habitual del sector, on la pressió per no quedar-se enrere sol imposar-se als crits a la cautela. La reacció arriba just després que dos investigadors de seguretat d'Anthropic hagin dimitit en dues setmanes alertant dels riscos d'una cursa desbocada, i que el mateix Altman hagi vinculat l'ajornament de la sortida a borsa d'OpenAI a preocupacions de seguretat.

Cap de les dues declaracions és, de moment, un compromís vinculant: Altman no ha detallat quins avaluadors concrets tindrien accés a OpenAI ni amb quin calendari, i el mateix pla d'Amodei depèn de coordinació governamental —inclosa una possible mediació antimonopoli dels Estats Units— que encara no existeix. Musk no ha explicat si aplicarà cap mesura concreta a xAI, i el suport verbal de tres dels líders més influents del sector no equival, de moment, a cap acord formal ni verificable.

Mateix tema

Veure tot el tema →

Butlletí de dissabte

La setmana d’IA, en cinc minuts.