iaintel·ligènciaartificial.cat← Portada

SEGURETAT · 4 MIN

Anthropic ofereix un escàner d'IA gratuït que busca vulnerabilitats en projectes de codi obert i en proposa les correccions

Els responsables de projectes crítics s'hi poden apuntar des de GitHub. L'empresa espera un encert superior al 90%, però avisa que els informes no passen per cap revisió humana.

Il·lustració generada amb IA: Anthropic ofereix un escàner d'IA gratuït que busca vulnerabilitats en projectes de codi obert i en proposa les correccions
Il·lustració generada amb IA
Escolta:Àudio en preparació.

Una bona part del programari que fa funcionar bancs, hospitals i xarxes elèctriques és codi obert que mantenen equips molt petits, sovint de voluntaris. Quan algú hi troba un forat de seguretat, a vegades ningú no té temps de revisar-lo. Aquesta és la bretxa que Anthropic diu que vol cobrir amb una eina nova.

Se'n diu OSS Scanner i l'empresa l'ha presentat el 9 d'octubre dins del que anomena la seva «Cyber Mission». Revisa els projectes de codi obert de manera periòdica, assenyala les vulnerabilitats, n'explica el motiu i proposa correccions. És gratuït i els responsables de projectes d'infraestructura crítica o amb impacte en la seguretat dels usuaris s'hi poden apuntar a través de GitHub. Segons The Decoder, Anthropic l'ha posat dins d'un programa més ampli, el de Defensa d'Infraestructures Crítiques, que dona accés a models de Claude, enginyers i anàlisi d'amenaces a operadors de xarxes elèctriques, aigua i transport, amb CrowdStrike, Palo Alto Networks, Deloitte i Rockwell Automation com a socis fundadors.

La rellevància és clara: les eines d'IA ja ajuden a trobar fallades de seguretat, però els mantenidors de codi obert han patit també l'altra cara, un allau d'informes falsos generats amb IA que els fa perdre el temps. Un escàner que posi la mateixa tecnologia al servei de qui ha de corregir els errors, i no només de qui els busca, és una resposta a aquest problema.

Els límits són els que declara l'empresa: espera un encert superior al 90%, però això és una expectativa i no una xifra mesurada per tercers, i els informes es lliuren sense revisió humana i «poden contenir errors». Per a un mantenidor amb poc temps, això vol dir que cada avís s'ha de comprovar abans de fiar-se'n.

Mateix tema

Veure tot el tema →

Butlletí de dissabte

La setmana d’IA, en cinc minuts.