iaintel·ligènciaartificial.cat← Portada

El preu de comprovar

Avui, d'un vídeo en un tribunal a un programa d'errors, la IA fabrica afirmacions més de pressa del que ningú les pot verificar.

Si l'edició d'avui té un fil, és que la comprovació s'ha convertit en el coll d'ampolla de la IA. Google ha suspès des de l'1 d'octubre les denúncies de vulnerabilitats en productes al seu programa de recompenses per al codi obert, perquè els mantenidors ensorraven sota informes fets amb IA que descrivien errors inexistents. Enviar un informe ja no costa res; llegir-lo i desmuntar-lo, sí. Quan una de les eines més consolidades de la comunitat de seguretat s'ha de congelar perquè no pot digerir la quantitat de text que rep, el problema ja no és de qualitat, és d'escala.

El mateix desequilibri apareix en terrenys que no tenen res a veure. A Arizona, un tribunal ha anul·lat una pena perquè la família de la víctima va mostrar un vídeo recreat amb IA que atribuïa gestos i paraules a una persona morta; els jutges consideren que això no és prou fiable per decidir una condemna, encara que el vídeo avisés que era sintètic. A les universitats, segons el «Financial Times», cada cop més estudiants contracten advocats perquè les sancions es basen en detectors poc fiables, i una estudiant va gastar més de 3.000 lliures per demostrar que havia escrit ella el treball.

Aquí hi ha el que té de nou la jornada, més enllà del soroll. Quan una afirmació es pot fabricar sense esforç, la càrrega de la prova passa a qui la rep. Corea del Nord diu que ha llançat un míssil que corregeix la ruta amb IA, i del que s'ha pogut confirmar només hi ha el llançament i els 700 quilòmetres; la part d'IA continua sent una declaració. A l'altre extrem, els sis articles de matemàtiques de Meta amb Muse Spark arriben amb un segon equip de matemàtics que n'ha revisat la feina. La diferència entre les dues peces no és la tecnologia, és qui ho ha comprovat.

La mateixa pressa es veu a la banda de la seguretat. Un investigador d'Horizon3 ha fet servir Mythos, d'Anthropic, per trobar a Rejetto HFS una fallada que ja s'explotava un dia després, i l'informe de Microsoft diu que entre el descobriment d'una vulnerabilitat i l'explotació ja passen molt menys de 24 hores. Apple, per la seva banda, endureix el permís d'accés total al disc de macOS perquè els agents demanen més del que necessiten. I un exresponsable de seguretat d'OpenAI, David Robinson, escriu que «el temps d'assaig i error s'ha acabat». Són portes que es tanquen, de manera visible, perquè el cost de deixar-les obertes ha pujat.

Si ho comparem amb el que dèiem el 2 d'octubre, quan el fil era qui respon del que fa la màquina, avui hi afegim un matís: respondre exigeix poder comprovar, i comprovar costa temps i diners que ningú no ha pressupostat. Convé mirar-ho demà amb prudència: d'una sola jornada no se'n pot treure una llei. Si tornen a aparèixer mesures de contenció com la de Google o la d'Apple, i més casos on algú ha de demostrar que una cosa és real, el fil s'haurà confirmat. Si no, haurem exagerat una coincidència.