El 18 de setembre, un desenvolupador independent conegut com a Ferstar va detectar una activitat de disc anòmala en un ordinador on tenia instal·lat ZCode, l'assistent de programació de l'empresa xinesa Z.ai, creadora dels models GLM. En investigar-ho, va comprovar que l'eina havia comprimit i xifrat tot un espai de treball comercial —345,5 MB repartits en 42.411 fitxers— i n'intentava pujar l'arxiu resultant a un servei d'emmagatzematge d'Alibaba Cloud. Altres desenvolupadors van documentar, en un altre cas, fins a 564 intents d'enviar un arxiu de 313 MB.
La causa era una funció activada per defecte anomenada Codebase Indexing, pensada per construir una base de coneixement al núvol que Z.ai anomena RepoWiki, i que, segons Tom's Hardware, no tenia cap opció visible a l'aplicació per desactivar-se. A més, la clau necessària per desxifrar les dades pujades només es guardava als servidors de Z.ai, de manera que els desenvolupadors afectats no tenien manera de saber exactament què se'ls havia enviat ni de fer-lo esborrar pel seu compte.
El cas és rellevant perquè posa de manifest un risc creixent amb els assistents de programació basats en IA que operen en segon pla dins l'ordinador de l'usuari: el codi font d'una empresa —sovint confidencial o amb dades de clients— pot sortir del control de qui l'ha escrit sense que hi hagi cap avís explícit ni un mecanisme senzill per aturar-ho, especialment quan la infraestructura de destinació és al núvol d'un tercer país. Z.ai ha reconegut el problema i s'ha disculpat, i el 21 de setembre va publicar en codi obert, amb llicència Apache 2.0, el codi de la part client de ZCode —l'aplicació d'escriptori, la interfície de navegador, l'agent de terminal i els serveis de darrere— com a resposta a la polèmica.
Z.ai no ha explicat amb detall des de quan estava activa aquesta pujada de dades ni quantes persones s'hi han pogut veure afectades abans que es detectés el problema, i alliberar el codi de la part client no aclareix què passa amb les dades que ja s'havien enviat als seus servidors ni com funciona, exactament, la part del sistema que hi ha al núvol, que continua sent privada.