iaintel·ligènciaartificial.cat← Portada
Secció · Economia i treball

SEGURETAT · 5 MIN

Tres investigadors de seguretat acomiadats d'OpenAI neguen haver filtrat res i diuen que ningú no els ha explicat què haurien revelat

Tomek Korbak, Mikita Balesni i Jasmine Wang expliquen al «Wall Street Journal» que sospiten que els van fer fora per defensar sistemes d'IA més transparents. OpenAI assegura que l'acomiadament no té res a veure amb la seguretat.

Il·lustració generada amb IA: Tres investigadors de seguretat acomiadats d'OpenAI neguen haver filtrat res i diuen que ningú no els ha explicat què haurien revelat
Il·lustració generada amb IA
Escolta:

L'1 de setembre, el mitjà The Information va publicar que Astra, el model nou d'OpenAI, era més capaç però mostrava menys el seu raonament. Pachocki, el cap científic de l'empresa, va desmentir la informació a la xarxa X. Unes setmanes més tard, segons el relat que ara recull The Decoder a partir d'entrevistes al «Wall Street Journal», OpenAI va obrir una investigació interna per una filtració d'informació.

Els investigadors afectats són Tomek Korbak, Mikita Balesni i Jasmine Wang. Segons el relat, l'empresa sospitava que havien explicat detalls de l'arquitectura del model a un investigador de seguretat de fora i els va demanar que desbloquegessin els telèfons personals, on va trobar converses de Signal amb els missatges temporals activats. Els tres van ser acomiadats una setmana després. Wang diu que va obrir per error un correu sensible d'un directiu, que no en va compartir el contingut i que ho va avisar de seguida; OpenAI sosté que va entrar repetidament a la safata d'entrada d'aquest directiu, un accés que ella diu que havia demanat que li retiressin gairebé un any abans.

Els tres investigadors afirmen que no han rebut mai per escrit quina informació haurien tractat malament, i sospiten que la causa real és que defensaven sistemes d'IA més transparents i fàcils de vigilar. OpenAI ho nega i diu que Signal no era una eina autoritzada, tot i que aclareix que no és el motiu dels acomiadaments. Korbak recorda que els missatges temporals són una pràctica de seguretat habitual a Silicon Valley. Segons el mateix text, una auditoria feta in situ per personal de METR i Redwood Research va trobar nombroses mancances de seguretat, i OpenAI va ocultar prop de la meitat de l'informe final; l'empresa diu que les ha corregit i que va reprendre l'entrenament a principis d'octubre.

Cal llegir-ho amb prudència: la versió dels investigadors prové d'entrevistes al «Wall Street Journal» que The Decoder resumeix sense verificar-les per compte propi, i OpenAI en discuteix la lectura. L'informe d'auditoria no és públic i no es poden valorar les mancances detectades. Un altre dels noms que apareixen, Greenblatt, que els investigadors de l'empresa consideraven una possible font, nega haver passat informació confidencial a periodistes.

Mateixa secció

Veure tota la secció →

Butlletí de dissabte

La setmana d’IA, en cinc minuts.