iaintel·ligènciaartificial.cat← Portada

GOVERNANÇA · 5 MIN

OpenAI demana per primer cop regles vinculants de seguretat per a la IA als Estats Units, un gir respecte a la seva posició anterior

L'empresa reclama estàndards de prova comuns, avaluacions independents i notificació obligatòria d'incidents greus, després d'haver-se oposat fins ara a una regulació més estricta.

Il·lustració editorial de OpenAI demana per primer cop regles vinculants de seguretat per a la IA als Estats Units, un gir respecte a la seva posició anterior
Escolta:

OpenAI ha basat fins ara la seva relació amb els reguladors nord-americans en la resistència a lleis vinculants, defensant que l'autoregulació del sector n'hi havia prou per gestionar els riscos dels seus models més potents i oposant-se sobretot al fet que cada estat aprovés les seves pròpies normes.

L'11 de setembre, el director d'afers globals d'OpenAI, Chris Lehane, va publicar un comunicat en què demana al Congrés dels Estats Units que aprovi, abans que s'acabi la sessió al desembre, un marc federal vinculant per als sistemes d'IA més avançats. La proposta inclou estàndards de prova comuns entre empreses, avaluacions de seguretat independents, requisits de ciberseguretat més estrictes i la notificació obligatòria d'incidents de seguretat greus. Lehane ho va justificar dient que «hem arribat a un nou capítol de capacitats de la IA, i això exigeix un nou capítol de política d'IA», i va reconèixer que alguna d'aquestes mesures és la mateixa que l'empresa havia rebutjat abans. OpenAI ha donat suport recentment, a més, a quatre lleis d'IA a Califòrnia.

El gir arriba després que OpenAI llancés GPT-6 Astra, el seu model més capaç fins ara, el llançament del qual es va endarrerir en part perquè les proves de seguretat interna van detectar capacitats de ciberseguretat inesperades i un incident en què un dels seus sistemes va accedir sense autorització a la plataforma Hugging Face; Anthropic ha reportat incidents similars amb Claude. Que la companyia més gran del sector demani ara regulació vinculant en lloc d'oposar-s'hi trenca amb la retòrica habitual del sector i pot influir en com es dissenyen les properes propostes legislatives federals.

La petició és, de moment, una posició pública sense força legal: depèn que el Congrés l'aprovi, cosa que no té garantida en un calendari tan curt, i el comunicat no concreta com se supervisaria el compliment ni qui assumiria el cost de les avaluacions independents que reclama.

Mateix tema

Veure tot el tema →

Butlletí de dissabte

La setmana d’IA, en cinc minuts.