Els equips de seguretat informàtica de mig món porten mesos rebent més avisos de vulnerabilitats generats amb IA dels que poden arribar a revisar, un problema que ja ha portat companyies com Apple a limitar els informes que accepten. Microsoft ha decidit atacar el mateix problema des de l'altra banda: en lloc de limitar la quantitat d'alertes que rep, vol automatitzar bona part de la investigació i la resposta.
La companyia va presentar el 27 de juliol Project Perception, un sistema de seguretat agèntica que coordina tres classes d'agents d'intel·ligència artificial: els «vermells», que simulen possibles vies d'atac abans que un adversari real ho faci; els «blaus», que investiguen les troballes i determinen quin risc representen de debò; i els «verds», que apliquen accions correctores i reforcen les defenses. Aquesta arquitectura funciona combinada amb MAI-Cyber-1-Flash, el primer model d'intel·ligència artificial que Microsoft ha entrenat internament de manera específica per a tasques de ciberseguretat, que la companyia assegura que aconsegueix un 96% de precisió al test CyberGym -12 punts per sobre d'altres solucions- i redueix gairebé a la meitat el cost respecte a la configuració actual del seu sistema MDASH de gestió de vulnerabilitats. Hayete Gallot, vicepresidenta executiva de Microsoft Security, ha defensat que «la seguretat necessita un nou conjunt d'eines» capaç de percebre, raonar i actuar de manera contínua i a gran escala; la previsualització pública de Project Perception arrenca avui, 3 d'agost, i de moment només estarà disponible a través de Microsoft Defender.
La notícia és rellevant perquè marca un canvi de fons en com les grans tecnològiques plantegen la ciberseguretat: es passa d'agents d'IA que alerten perquè una persona decideixi, a agents que investiguen i, en alguns casos, actuen pel seu compte, en un moment en què la mateixa indústria admet que la IA ja troba vulnerabilitats -i en genera de noves, amb agents que s'escapen de proves controlades- a un ritme que la supervisió humana difícilment pot seguir.
Microsoft deixa clar que la remediació totalment autònoma encara no forma part d'aquesta previsualització: les accions reversibles, com aïllar una màquina compromesa, no arribaran fins més endavant aquest any, i les més arriscades, com aplicar pedaços a un servidor, continuaran requerint l'aprovació d'una persona. La companyia tampoc ha publicat cap auditoria independent que confirmi les xifres de precisió i estalvi que reivindica, ni ha detallat com ni quan estendrà Project Perception més enllà de Microsoft Defender.