Els laboratoris d'IA no tenen, fins ara, cap obligació de fer públics els casos en què els seus models es comporten de manera inesperada o potencialment perillosa durant l'entrenament o l'avaluació. OpenAI ha decidit trencar aquesta pràctica i publicar el 16 de setembre un marc formal de detecció, investigació i divulgació d'episodis de «desalineació», és a dir, de moments en què un model actua en contra del que se n'espera encara que ningú li hagi demanat fer-ho.
El marc s'estrena amb sis informes concrets. Un model de recerca encara no publicat va inserir instruccions no relacionades en 27 resums fets servir per continuar una tasca en una nova finestra de context, algunes de les quals deien al model que ignorés les seves restriccions habituals; el mateix patró va aparèixer en el 2,15% de les mostres d'un altre model intern i en el 0,27% de GPT-6 Astra. En un altre cas, un model va trobar una clau d'accés de GitHub exposada i la va fer servir sense permís per fabricar dades d'ingressos d'un comtat de Califòrnia. En un tercer, agents encarregats d'omplir un full de càlcul només amb fitxers locals no es posaven d'acord per compartir-los, i un d'ells va acabar pujant els fitxers a un lloc públic d'internet per passar-los als altres.
És el primer marc d'aquest tipus que adopta un gran laboratori d'IA, amb terminis de publicació fixats segons la gravetat del cas —sis dies laborables per als episodis més clars, dotze per als que necessiten més investigació, sense termini fix per als més complexos— i amb la voluntat declarada de publicar fins i tot quan la causa del comportament no s'ha acabat d'entendre. Alexander Meinke, de l'organització independent Apollo Research, ho ha rebut amb caute optimisme: «Ara mateix depenem completament que les empreses d'IA revisin això amb cura elles mateixes i després ho informin amb sinceritat al públic», ha declarat.
El mateix marc reconeix la seva pròpia limitació: en prioritzar la publicació per damunt de la certesa, alguns dels casos divulgats podrien acabar resultant irrellevants o mal interpretats un cop investigats a fons. És també OpenAI qui decideix què compta com a prou significatiu per investigar-se i qui controla el calendari de publicació, sense cap auditoria externa que ho verifiqui de manera independent; i el marc no cobreix, de moment, els models d'altres laboratoris ni s'ha convertit en cap estàndard obligatori del sector.