iaintel·ligènciaartificial.cat← Portada

SEGURETAT · 4 MIN

Apple posa un límit i un període de refredament de 30 dies als informes de vulnerabilitats generats amb IA, després d'un allau de presentacions

La companyia ha topat amb el mateix problema que viuen altres grans tecnològiques: eines d'IA capaces de trobar vulnerabilitats reals a un ritme que supera la capacitat dels seus equips humans de revisar-les, barrejades amb un gran volum d'informes especulatius o directament al·lucinats.

Il·lustració editorial de Apple posa un límit i un període de refredament de 30 dies als informes de vulnerabilitats generats amb IA, després d'un allau de presentacions
Escolta:

El programa de recompenses per vulnerabilitats d'Apple (Apple Security Bounty) paga fins a més de 5 milions de dòlars per a les cadenes d'atac més greus, i des de fa mesos rep un flux creixent d'informes generats amb l'ajuda d'eines d'intel·ligència artificial capaces d'analitzar codi i proposar cadenes d'explotació a una velocitat que cap equip humà pot igualar.

Segons ha revelat el Financial Times, Apple ha introduït un límit al nombre d'informes que un investigador pot mantenir oberts alhora i un període de refredament de 30 dies per a les presentacions al seu portal Feedback Assistant, després que l'onada d'informes assistits per IA hagi posat sota pressió el seu procés de revisió. La companyia posa com a exemple el cas de la startup de seguretat Bynario, que en només tres setmanes va identificar més de 50 possibles vulnerabilitats a macOS -algunes de risc teòric, d'altres genuïnes i que han acabat requerint pedaços-, incloent-hi una cadena d'escalada de privilegis capaç de donar control total d'un Mac.

La notícia és rellevant perquè posa xifres a un fenomen que ja preocupa altres grans tecnològiques: la IA permet trobar vulnerabilitats reals molt més ràpid que mai, però també multiplica els falsos positius i les descobertes teòriques sense validar, fins al punt que les mateixes normes del programa d'Apple adverteixen que qui presenti repetidament informes no vàlids generats amb IA sense validar-los pot veure suspesa la seva participació fins a 180 dies.

Ni el Financial Times ni Apple han precisat quants informes concrets s'han vist afectats pel nou límit, ni quina proporció dels que arriben acaben sent vulnerabilitats reals enfront de descobertes especulatives; Apple tampoc ha fet declaracions públiques pròpies més enllà de les seves normes ja publicades, i no s'ha confirmat si altres programes de recompenses del sector adoptaran mesures similars.

Mateix tema

Veure tot el tema →

SEGURETAT · 5 MIN

Anthropic admet per primer cop que els seus models més nous ja no es poden donar per descomptat per sota del llindar de risc de bioarmes

L'informe trimestral de detecció de mal ús de Claude descriu cinc casos en què científics van fer servir el model per investigar chikungunya, grip aviar, ortopoxvirus i pèptids de verí amb un possible ús armamentístic, i reconeix per primera vegada que els models més recents ja no queden clarament per sota del llindar de risc biològic.

Butlletí de dissabte

La setmana d’IA, en cinc minuts.