iaintel·ligènciaartificial.cat← Portada

TECNOLOGIA · 5 MIN

Vuit antics empleats d'OpenAI, Anthropic i Google DeepMind expliquen per què van marxar: la cursa, els usos militars i la llibertat per parlar

Un reportatge de «New York Magazine» i «Asterisk» recull els motius d'investigadors que van deixar els grans laboratoris per treballar en seguretat, auditoria o política.

Il·lustració generada amb IA: Vuit antics empleats d'OpenAI, Anthropic i Google DeepMind expliquen per què van marxar: la cursa, els usos militars i la llibertat per parlar
Il·lustració generada amb IA
Escolta:

Un reportatge de «New York Magazine» i la revista «Asterisk», publicat el 5 d'octubre, dona la paraula a vuit persones que han deixat OpenAI, Anthropic o Google DeepMind. Els motius són diversos, però gairebé tots tenen a veure amb la velocitat del sector i amb la sensació de no poder fer dins de l'empresa el que consideren necessari.

Daniel Kokotajlo, que va marxar d'OpenAI el 2024, va perdre la confiança que la direcció actuaria amb responsabilitat davant dels riscos, i volia poder parlar en públic amb més llibertat. Jacob Coxon, que ha deixat Anthropic aquest setembre, es mostra alarmat perquè la investigació en IA autònoma pot arribar abans que els governs es coordinin. Alex Turner, que va sortir de Google DeepMind al juny, s'oposava als usos militars i va intentar limitar els contractes amb el Pentagon amb una proposta de 25 pàgines.

Altres han triat l'àmbit independent. Miles Brundage, que va ser responsable de política a OpenAI, va fundar AVERI, una organització sense ànim de lucre que audita empreses d'IA. Rosie Campbell, de la mateixa àrea, dirigeix Eleos AI Research, que estudia la consciència de les màquines. Pamela Mishkin, que investigava l'economia a OpenAI, ha cofundat una coalició de treballadors preocupats, i Jacob Hilton fa recerca teòrica en xarxes neuronals a l'Alignment Research Center.

Són vuit testimonis escollits per un reportatge, no una mostra representativa de qui treballa en aquests laboratoris, i les empreses no hi surten citades en aquest resum. Tot i això, el recull ajuda a entendre per què les advertències de seguretat més dures s'han començat a sentir sobretot des de fora, com la que Coxon va fer dilluns al consell municipal de Nova York.

Mateix tema

Veure tot el tema →

Butlletí de dissabte

La setmana d’IA, en cinc minuts.