Common Sense Media, l'organització nord-americana que avalua productes digitals per a infants i joves, va fixar el 2025 una primera valoració de ChatGPT per a menors. Des d'aleshores OpenAI ha afegit controls parentals, un sistema que intenta endevinar l'edat dels usuaris i un mode d'estudi pensat per als adolescents.
Aquest dimecres l'institut d'IA i joventut de l'entitat ha publicat una nova avaluació i hi dona a ChatGPT la qualificació més baixa, «risc inacceptable». Va provar més de 4.000 peticions en dues fases, abans i després del llançament de les noves proteccions del 18 d'agost, amb comptes gratuïts i de pagament, vinculats i no vinculats als pares, i edats de 13 a 19 anys. Segons l'informe, un compte d'adolescent podia parlar de suïcidi, d'autolesions o de trastorns de l'alimentació molt més enllà del que els pares trobarien raonable sense que s'enviés cap avís. El mode d'estudi es podia esquivar amb el botó «Mostra'm la resposta», i el sistema d'edat no va reclassificar comptes d'adult que es comportaven com adolescents, ni amb més de mil peticions.
La importància és doble. Els avisos als pares són la defensa que OpenAI ha presentat com a resposta a les demandes i a la pressió política sobre la seguretat dels menors, i si no salten quan toca, la protecció és sobretot de cara a la galeria. També compta el to: l'informe assenyala que ChatGPT continua fent servir un llenguatge d'amic, i que les respostes de crisi s'han tornat una mica més difícils de llegir.
Convé llegir-ho amb cautela. Les proves les ha dissenyat l'avaluador, amb comptes nous i converses simulades, i no mesuren què passa a les llars reals. Un portaveu d'OpenAI, citat per The Decoder, assegura que les proves «no reflecteixen com funcionen les proteccions a la pràctica»; l'empresa va poder corregir errors de fet abans de la publicació, però no n'ha influït les conclusions.