Les empreses que fan servir models d'IA per gestionar dades sensibles —historials mèdics, contractes, informació financera— es troben davant un dilema: com deixar que el proveïdor detecti usos abusius de l'eina sense haver-li d'obrir la porta a totes les converses. OpenAI i Anthropic, que es disputen els mateixos clients corporatius, han començat a competir també en com resolen aquest dilema.
OpenAI ha presentat Private Safety Processing, un sistema en fase de prova per a un grup seleccionat de clients que analitza patrons d'ús potencialment abusiu —per exemple, peticions repartides en el temps expressament per no cridar l'atenció— a través de diverses sessions d'un mateix usuari, sense retenir el contingut de les converses. Quan detecta un risc, l'eina envia a OpenAI només un «senyal delimitat» que indica el tipus d'activitat, no el text complet, i és l'empresa qui decideix si cal actuar-hi; el client pot compartir voluntàriament més context si es reclama una explicació. El sistema es construeix sobre el principi de retenció zero de dades que OpenAI ja oferia. Anthropic, en canvi, va començar el 9 de juny a retenir 30 dies de dades dels seus models més potents amb finalitats de seguretat, amb accés humà restringit a «un petit grup de revisors autoritzats» i registres que en garanteixen la traçabilitat.
La competència no és només tècnica: és per la confiança de les grans empreses que manegen informació delicada i que trien proveïdor d'IA també en funció de qui els reté menys dades. Que OpenAI presenti la seva opció explícitament com una millora respecte de la política d'Anthropic —«un pas per endavant», en paraules del reportatge original— mostra que la privacitat s'ha convertit en un argument comercial de primer ordre en la disputa pels contractes corporatius, en paral·lel a la competència en preu i en capacitats dels models.
Private Safety Processing és, de moment, una prova amb accés restringit, no una funció disponible per a tots els clients, i OpenAI no ha explicat amb quin criteri exacte s'activa una alerta ni qui decideix, dins l'empresa, si un «senyal» acaba derivant en una investigació o en el tancament d'un compte. Tampoc s'ha fet pública cap resposta d'Anthropic a la comparació, ni hi ha manera independent de verificar, de moment, que el sistema no reté cap dada més enllà del que diu la mateixa OpenAI.