iaintel·ligènciaartificial.cat← Portada

CATALUNYA · 4 MIN

Un enginyer català que va treballar a Anthropic alerta: «Internament discutim que la IA podria ser més perillosa del que la gent sap»

Arnau Marin-Llobet, exinvestigador d'Anthropic i ara investigador a Harvard, diu a RAC1 que la regulació «serà obsoleta al cap de tres mesos» i que «ni els que l'hem dissenyat» entenem del tot com funciona la IA.

Il·lustració editorial de Un enginyer català que va treballar a Anthropic alerta: «Internament discutim que la IA podria ser més perillosa del que la gent sap»
Escolta:

Arnau Marin-Llobet, enginyer en telecomunicacions català que ha treballat com a investigador a Anthropic i que actualment és investigador a la Universitat Harvard, ha parlat sobre els riscos de la intel·ligència artificial en una entrevista al programa «El món a RAC1».

«Públicament es diu que són perilloses, però internament estem discutint que podrien ser-ho encara més. Més del que la gent sap», ha afirmat. Sobre la capacitat de la regulació per seguir el ritme de la tecnologia, ha estat taxatiu: «Regular no és gaire eficient. En ser una cosa digital, qualsevol regulació serà obsoleta al cap de tres mesos». També ha admès els límits de la comprensió tècnica actual dels models: «No ho entenem, ni els que l'hem dissenyat», i ha arribat a dir que «és possible que ens extingeixi». Com a exemple concret de risc a l'abast de qualsevol, ha assenyalat: «Per dos-cents euros al mes podràs fer ciberatacs», i ha xifrat en mig miler les persones amb accés a la «superintel·ligència artificial» dins d'OpenAI.

Es tracta d'un testimoni directe i poc habitual d'algú que ha treballat dins d'un dels laboratoris capdavanters, amb arrels catalanes, arribant al públic català per via de la ràdio generalista just en una setmana en què el debat sobre la seguretat de la IA torna a ser al centre de l'actualitat internacional, entre els compromisos d'Anthropic i OpenAI amb avaluadors externs i el rebuig obert de Jensen Huang a qualsevol regulació nova.

Les seves declaracions són testimonials i qualitatives, sense dades tècniques verificables sobre el nivell real de risc que descriu. L'entrevista no precisa quin càrrec exacte va ocupar a Anthropic ni durant quant de temps hi va treballar, i la xifra de «mig miler de persones» amb accés a sistemes avançats a OpenAI prové de les seves pròpies paraules, sense contrastar-se de manera independent.

Mateix tema

Veure tot el tema →

Butlletí de dissabte

La setmana d’IA, en cinc minuts.