A final d'octubre, un informe de l'empresa de ciberseguretat Wiz va fer saber que almenys nou plataformes que donen serveis als desenvolupadors d'IA havien patit intrusions aquell mes. Una d'elles era Fireworks AI, una empresa que fa funcionar models d'IA per encàrrec d'altres empreses. La novetat és que ara se sap que l'atac ha arribat als clients d'un dels seus clients: Notion, l'aplicació de notes i documents que fan servir milions de persones i empreses, ha publicat un avís de seguretat en què admet que hi ha dades seves afectades.
Segons la cronologia de Notion, Fireworks la va avisar el 2 de novembre que uns atacants havien accedit a dades, i el primer cop d'ull només hi va trobar dades de proves. L'endemà, per precaució, Notion es va desconnectar de Fireworks i hi va fer esborrar totes les seves dades. El 6 de novembre, però, Fireworks la va avisar que també podien haver accedit a dades de clients, i el 8 en va confirmar l'abast: transcripcions de converses amb la IA de Notion recollides per la funció Insights, que Fireworks feia servir per classificar-les. Notion diu que menys de l'1% dels espais de treball s'han vist afectats, que la majoria d'aquestes converses no identifiquen ni l'autor ni l'empresa, i que no hi ha cap altra funció implicada. El 9 de novembre va començar a avisar els afectats.
El cas il·lustra un risc que creix a mesura que les empreses incorporen la IA: les converses amb un assistent sovint passen per proveïdors externs que l'usuari no coneix, i qualsevol forat en aquesta cadena exposa informació que la gent hi ha escrit pensant que era privada. Notion ha desactivat la funció Insights mentre investiga, ha deixat de fer servir Fireworks per als models oberts i recomana als clients afectats que tractin aquelles dades com si haguessin quedat a la vista de tothom i que canviïn qualsevol contrasenya o clau d'accés que haguessin enganxat al xat.
Notion insisteix que no hi ha hagut cap intrusió en els seus propis sistemes i no ha donat el nombre exacte d'espais de treball afectats ni el període que cobreixen les converses exposades. La investigació continua oberta i l'empresa diu que avisarà qualsevol altre client que resulti afectat.