OpenAI oferia ja als seus clients d'empresa i d'API una política de «retenció zero de dades» (Zero Data Retention), pensada per a organitzacions que gestionen informació sensible i no volen que les seves converses quedin emmagatzemades als servidors de la companyia. El dilema que això plantejava era evident: si no es guarda cap rastre, tampoc es pot vigilar si algú fa un ús maliciós del servei al llarg del temps. Aquest 19 d'agost, OpenAI ha presentat la resposta a aquest dilema amb un nou sistema anomenat «Private Safety Processing».
Segons ha explicat la companyia i ha detallat TechCrunch, el sistema fa servir agents automatitzats que analitzen les entrades i sortides de múltiples converses relacionades per detectar patrons d'abús, sense que cap persona arribi a revisar el contingut de les converses d'un usuari. Si el sistema detecta activitat sospitosa, envia a OpenAI un «senyal estretament definit» sobre el tipus d'activitat, i el client pot optar per compartir voluntàriament més informació. De moment la funció es prova amb clients seleccionats d'empresa i d'API -no amb els usuaris particulars de pagament de ChatGPT- i la companyia preveu un desplegament més ampli i un document tècnic detallat al setembre.
La jugada té un rerefons competitiu clar: Anthropic reté les dades dels seus «covered models», com Claude Fable, durant 30 dies per als seus clients d'empresa, i permet la revisió humana a través d'accessos controlats que queden registrats en historials no modificables, una pràctica que ha generat reticències entre alguns clients corporatius. En un moment en què les empreses confien a la IA tasques cada cop més complexes i amb dades més sensibles, oferir seguretat sense sacrificar la privacitat es converteix en un argument comercial de pes per guanyar contractes davant la competència.
OpenAI no ha publicat encara xifres sobre la precisió d'aquest sistema de detecció ni ha confirmat un calendari exacte per al desplegament general, més enllà d'apuntar al setembre per al document tècnic complet. Tampoc s'ha aclarit com es tracten els casos en què el senyal d'alerta resulta ser un fals positiu, ni si els clients tindran mecanismes per recórrer una decisió basada en aquest monitoratge automatitzat.