iaintel·ligènciaartificial.cat← Portada
Secció · Societat, cultura i educació

SOCIETAT · 4 MIN

Un exinvestigador d'OpenAI i Anthropic diu que és «una bogeria» que la IA avançada sigui en mans d'empreses amb afany de lucre, el dia que Anthropic s'estrena a la borsa

Jacob Coxon, britànic de 27 anys, va plegar d'Anthropic al setembre acusant-la, com a OpenAI, de córrer cap a una IA que es millori sola. Ho ha dit a l'AFP davant de la seu de l'empresa a San Francisco, on uns manifestants demanaven prohibir els models que construeixen les seves pròpies versions noves.

Il·lustració generada amb IA: Un exinvestigador d'OpenAI i Anthropic diu que és «una bogeria» que la IA avançada sigui en mans d'empreses amb afany de lucre, el dia que Anthropic s'estrena a la borsa
Il·lustració generada amb IA
Escolta:

Anthropic ha viscut aquesta setmana la sortida a borsa més gran de la història, amb una valoració d'uns 1,5 bilions de dòlars en el moment de la sortida i d'1,3 bilions al final de la primera jornada. El debat sobre si empreses privades han de desenvolupar sistemes d'IA cada vegada més capaços, però, no s'ha apagat. Un dels punts més discutits és l'anomenada automillora recursiva: models que fan la recerca per construir la generació següent d'ells mateixos, de manera que el progrés es podria accelerar molt més enllà del ritme humà.

Jacob Coxon, un investigador britànic de 27 anys format a Cambridge, va treballar uns tres anys a OpenAI en l'entrenament inicial dels models i uns quants mesos a Anthropic, d'on va plegar al setembre. Aleshores ja va acusar les dues empreses de «córrer directament cap a una superintel·ligència que es millora sola». Aquest divendres, davant de la seu d'Anthropic a San Francisco, on un grup de manifestants demanava prohibir els models que construeixen les seves pròpies versions noves, ha dit a l'agència AFP que és «una bogeria» que siguin empreses amb afany de lucre les que desenvolupin aquesta tecnologia, i que la sortida a borsa mostra fins a quin punt la situació s'ha tornat estranya. Segons ell, l'automillora podria comprimir dècades de recerca en mesos i portar sistemes molt perillosos a finals del 2027, i Anthropic, que hauria de renunciar-hi, la vol començar l'any que ve.

La seva veu té pes perquè ve de dins: ha treballat en dos dels tres laboratoris que lideren la cursa. Coxon sosté que el problema és polític i no tècnic, i que només l'acció política frenarà les empreses. També ha parlat dels seus diners: va plegar d'Anthropic abans que les seves accions consolidessin, però conserva participacions d'OpenAI que podrien valer molt si l'empresa surt a borsa el 2027, com té previst. El 9 de novembre, en una intervenció a Stanford, les va anomenar «diners de sang», i després ha promès donar-ne tot el valor a organitzacions de seguretat en IA, que no ha concretat. Diu que vol treballar en una entitat sense ànim de lucre.

Els escenaris catastròfics que descriu són hipòtesis i opinions personals, no fets demostrats, i les dates que dona per a l'arribada de sistemes perillosos no tenen cap base pública verificable. Tampoc no hi ha cap confirmació d'Anthropic sobre el calendari que ell li atribueix per a l'automillora; l'empresa no hi respon a la peça de l'AFP. El conseller delegat d'Anthropic, Dario Amodei, va prometre el mateix dia de l'estrena a la borsa que l'empresa aniria «tan a poc a poc com calgui» en el desenvolupament de la IA.

Mateixa secció

Veure tota la secció →