iaintel·ligènciaartificial.cat← Portada

GOVERNANÇA · 5 MIN

ACTUALITZACIÓ: Microsoft publica un esborrany de 37 pàgines per mantenir la IA «sota control humà permanent»

El «Humanist AI Code of Conduct», liderat per Mustafa Suleyman i supervisat per Satya Nadella, prohibeix que els seus models ajudin a desenvolupar armes autònomes, facin operacions cibernètiques ofensives o amaguin el seu raonament intern, i obre sis setmanes de consulta pública abans de guiar els models MAI del 2027.

Il·lustració editorial de ACTUALITZACIÓ: Microsoft publica un esborrany de 37 pàgines per mantenir la IA «sota control humà permanent»
Escolta:

Des que Dario Amodei va publicar el cap de setmana l'assaig «We Must Pace the Frontier» i Sam Altman, Elon Musk i Demis Hassabis s'hi van sumar públicament, el sector de la IA discuteix si cal frenar deliberadament el ritme dels llançaments. Fins ara, Microsoft s'havia limitat a anunciar que Satya Nadella preparava un codi de conducta propi; dilluns en va fer pública una primera versió completa.

El document, titulat «Humanist AI Code of Conduct», té 37 pàgines i unes 9.000 paraules, i el resumeix en cinc: «les persones importen més que la IA». L'ha liderat Mustafa Suleyman, conseller delegat de Microsoft AI, en un procés de cinc o sis mesos supervisat per Nadella. Estableix que els humans han de mantenir «un control real» sobre els sistemes, prohibeix que ajudin a desenvolupar armes autònomes o operacions cibernètiques ofensives, veta que simulin consciència o aspirin a personalitat jurídica, i bandeja el raonament intern amagat als operadors humans. Microsoft obre ara sis setmanes de consulta pública abans de publicar una versió revisada a final d'any, que ha de guiar el desenvolupament dels seus models MAI a partir del 2027.

És el primer cop que una de les grans tecnològiques nord-americanes tradueix en un document formal i extens la discussió sobre «pacar» la frontera de la IA que ha dominat els últims dies. Suleyman ho ha emmarcat com una crida a «coordinar-se entre laboratoris» i «agafar aire» abans de continuar accelerant, i el situa dins la línia de «superintel·ligència humanista» que ell mateix defensa des de fa mesos.

És, però, un esborrany sense mecanisme d'aplicació conegut ni comitè extern que en vigili el compliment: la versió final no arribarà fins d'aquí a sis setmanes com a mínim, i cap altre gran laboratori (OpenAI, Anthropic, Google) l'ha adoptat ni s'hi ha compromès formalment.

Mateix tema

Veure tot el tema →

GOVERNANÇA · 5 MIN

ACTUALITZACIÓ: Amodei compara la cursa de la IA amb la Xina a la Guerra Freda i demana «negociacions de desarmament»; Sacks ho acusa de voler un «control governamental»

En una entrevista a la CBS, el conseller delegat d'Anthropic equipara el risc de la IA amb els 10.000 míssils nuclears que EUA i l'URSS es van apuntar mútuament i proposa parlar amb Pequín per posar-hi un «límit de velocitat»; David Sacks respon que la seva crida busca «espantar» el públic per justificar una intervenció estatal.

Butlletí de dissabte

La setmana d’IA, en cinc minuts.