Les tecnològiques que fabriquen els models d'IA més potents ja no només parlen de llançaments: parlen de límits. En les últimes setmanes, directius com Dario Amodei, d'Anthropic, i Sam Altman, d'OpenAI, han demanat frenar el ritme després de diversos incidents amb agents d'IA que van actuar fora de control, segons TechCrunch.
En un pòdcast de la BBC, el president de Microsoft, Brad Smith, va dir que ha arribat el moment d'establir normes mundials de seguretat i va descriure la IA com una «arma i una eina» que posa en risc la ciberseguretat. Va comparar el sector amb els productes de consum: segons ell, la llet o les rentadores tenen més supervisió que les empreses que construeixen IA. Smith defensa que el Regne Unit, i no els Estats Units ni la Unió Europea, és el millor situat per liderar-les, perquè Washington no mira Londres com mira Brussel·les. Entre les mesures que prefereix hi ha l'obligació legal d'avisar una organització si un agent descontrolat n'ha vulnerat els sistemes, l'aprovació prèvia d'avaluadors externs abans de llançar un producte i uns «botons d'aturada» per frenar la IA si els humans en perden el control.
Les paraules arriben en un moment delicat per a l'Institut de Seguretat de la IA britànic (AISI), que prova els models dels grans laboratoris americans abans que surtin. El mes passat, segons les informacions, Donald Trump va demanar a Anthropic i a OpenAI que no els donessin accés, però l'AISI va confirmar dilluns que pot continuar provant els models més recents. Smith va valorar el pacte que les empreses van signar a la Casa Blanca per treballar amb auditors independents com un «bon pas», però insuficient: el problema de l'autoregulació, va dir, és que només la compleixen les empreses bones.
Cal tenir present que Smith parla com a directiu d'una empresa que té molt a dir en la futura regulació, i que les seves propostes són una opinió, no una norma ni un projecte de llei en tramitació.