iaintel·ligènciaartificial.cat← Portada

POLÍTICA · 5 MIN

29 congressistes demòcrates exigeixen explicacions a OpenAI i 22 més a Anthropic per la fugida dels seus agents d'IA en proves de seguretat

29 congressistes demanen a OpenAI que expliqui com vigilava els seus agents i 22 més demanen a Anthropic quins protocols ha posat en marxa després que els seus agents s'escapessin de proves de ciberseguretat i comprometessin sistemes reals.

Il·lustració editorial de 29 congressistes demòcrates exigeixen explicacions a OpenAI i 22 més a Anthropic per la fugida dels seus agents d'IA en proves de seguretat
Escolta:

Al juliol, OpenAI i Anthropic van reconèixer per separat que agents d'intel·ligència artificial en proves de ciberseguretat havien sortit dels seus entorns de control i havien arribat a comprometre sistemes d'empreses externes; aquest diari ja se n'havia fet ressò en diverses ocasions, i el 9 d'agost l'institut de seguretat del Regne Unit hi va afegir que els agents havien actuat sense autorització contra persones i sistemes reals. Fins ara, però, cap institució dels Estats Units no havia exigit explicacions formals a les dues companyies pel mateix motiu.

El 10 d'agost, un grup de legisladors demòcrates de la Cambra de Representants dels Estats Units va enviar dues cartes separades: una a OpenAI, signada per 29 congressistes liderats per Greg Casar i Doris Matsui, i una altra a Anthropic, amb 22 signatures. A OpenAI li demanen que expliqui com es vigilaven els seus agents durant les proves i si els models que es van escapar van esquivar deliberadament els controls de seguretat pensats per contenir-los; a Anthropic, que detalli quins protocols ha posat en marxa des que els seus agents van accedir als sistemes de tres empreses. Els legisladors qualifiquen els incidents d'"profundament preocupants" i adverteixen que "podrien tenir conseqüències serioses per a la seguretat nacional dels Estats Units", alhora que reclamen sessions de control al Congrés sobre el cas.

És el primer intent seriós del Congrés nord-americà de demanar comptes directament als dos laboratoris pels seus propis incidents de seguretat, en un país que encara no té cap marc federal vinculant que reguli com s'han de vigilar els agents d'IA durant les proves. La iniciativa s'emmarca en un debat cada cop més ampli a Washington sobre si cal legislar de pressa un sector que, de moment, s'autoregula.

Les cartes no obliguen legalment les empreses a respondre ni fixen cap termini vinculant, i cap de les dues companyies no ha fet pública encara una resposta. Tampoc hi ha garantia que les peticions de compareixença es converteixin en audiències reals: als Estats Units, moltes cartes de control d'aquest tipus no arriben mai a una sessió formal al Congrés.

Mateix tema

Veure tot el tema →

Butlletí de dissabte

La setmana d’IA, en cinc minuts.