Els laboratoris de frontera classifiquen les consultes amb risc biològic de doble ús —que poden servir tant per a recerca legítima com per a un mal ús— i, quan un classificador automàtic les detecta, deriven la conversa d'un model potent com Fable 5 cap a un de més limitat, Opus 5, per reduir el risc. Aquest mecanisme, que Anthropic anomena «fallback», és útil per seguretat, però quan es dispara massa sovint també acaba penalitzant investigadors, metges o estudiants que fan preguntes de bona fe.
Anthropic ha anunciat el 7 d'agost que ha reescrit la «constitució» —el conjunt de regles— del seu classificador de bioseguretat, hi ha incorporat retroalimentació d'experts interns i externs, ha generat noves dades d'entrenament i ha reentrenat el sistema sencer. El resultat, segons la companyia, és una reducció d'aproximadament el 85% dels fallbacks relacionats amb biologia en les seves proves internes; mesurat en ús real, la reducció ha estat del 67% a Claude.ai, el 55% a Cowork, el 17% a Claude Code i el 7% a la plataforma Claude, segons les xifres que aporta la mateixa empresa.
La notícia és rellevant perquè il·lustra una tensió pràctica dels models de frontera: fer-los prou cautelosos per no ajudar amb informació perillosa sense, alhora, fer-los inútils per a qui els necessita amb finalitats legítimes. Ajustar aquest equilibri sense obrir cap escletxa real de seguretat és tècnicament complicat, i Anthropic el presenta com un problema d'enginyeria de seguretat, no només de política d'ús.
Fable 5 continua derivant a Opus 5 les consultes que la companyia considera de doble ús, com les de virologia, toxicologia i disseny molecular, de manera que el filtre no ha desaparegut, només s'ha afinat. Les xifres de millora provenen de proves internes de la mateixa Anthropic, sense una auditoria externa que les contrasti, i l'empresa diu que encara vol desenvolupar vies d'accés de confiança per a investigadors amb necessitats legítimes de capacitats de frontera en biologia, sense concretar-ne encara el calendari.