La cimera DealBook que organitza cada any The New York Times a Nova York va dedicar aquesta setmana un debat a la intel·ligència artificial general, la que igualaria o superaria les persones en gairebé qualsevol tasca. El moderava Michael Barbaro, del pòdcast The Daily, i hi participaven Dan Hendrycks, director del Center for AI Safety; Max Hodak, de Science Corporation i cofundador de Neuralink; Lila Ibrahim, de Google DeepMind; Mati Staniszewski, d'ElevenLabs, i, en el tram final, Clem Delangue, de Hugging Face.
Hendrycks hi va demanar una pausa indefinida dels entrenaments dels models més grans, els de frontera. En quedarien fora els models especialitzats, com AlphaFold o els de veu, i les empreses podrien continuar venent l'ús dels que ja tenen. Mentrestant, segons ell, haurien de dedicar-se a fer-los més fiables i segurs, a tancar les escletxes que permeten saltar-se'n els límits i a protegir les infraestructures crítiques. Va explicar que abans era partidari de normes tècniques acotades, però que l'oposició de la indústria l'ha portat a defensar «una intervenció més contundent». També va acusar Anthropic de no tenir cap pla de seguretat.
Hodak li va replicar que fer complir una prohibició així obligaria a muntar «un estat de vigilància exhaustiva a internet», tan perillós com els riscos que vol evitar. Segons ell, els millors models ja compleixen la seva definició d'IA general, i la sortida és aplicar les lleis de la competència perquè els grans laboratoris es limitin a vendre intel·ligència sense estendre's als fàrmacs o als cotxes. Staniszewski va dir que una pausa només funcionaria amb un acord mundial, Ibrahim va defensar que seguretat i innovació no són incompatibles, i Delangue va dir que el que més el preocupa és que la IA concentri talent, capacitat de càlcul i riquesa en poques mans.
El debat no decideix res, però mostra fins on ha arribat la discussió: una de les veus més conegudes de la seguretat de la IA demana ara aturar la cursa, i els empresaris presents, fins i tot Google DeepMind, prefereixen parlar de repartir el poder. Les acusacions de Hendrycks a Anthropic són una opinió seva, i la crònica de The Next Web no en recull cap resposta de l'empresa. Barbaro va concloure que el panell rebutjava majoritàriament una moratòria i preferia evitar que el poder es concentrés, amb Hendrycks com a excepció.
