OpenAI va presentar el 18 d'agost una versió de ChatGPT pensada per als adolescents, amb restriccions de contingut i controls per als pares. És el tipus de mesura que reclamen des de fa temps famílies, escoles i reguladors, després de diversos casos en què joves havien parlat de temes greus amb xatbots que no sabien com respondre.
Segons la crònica de l'agència AP, publicada aquest dimecres, Common Sense Media —una organització que avalua l'impacte dels mitjans digitals en els menors— ha analitzat el servei i conclou que algunes proteccions funcionen, com ara el rebuig dels jocs de rol sexuals explícits. Però les alertes als pares quan un adolescent pot estar en risc de suïcidi, autolesió o trastorns alimentaris no actuen com s'esperava, i l'ajuda a un jove en crisi és insuficient. També afirma que el xatbot continua parlant «com un amic» si l'adolescent el tracta com una persona, tot i que l'empresa havia promès que no suggeriria sentiments ni consciència.
L'organització demana que el servei es limiti als adults fins que ofereixi una experiència segura i adequada a l'edat, i avisa que els controls poden donar als pares una «falsa confiança». OpenAI respon que està «profundament compromesa amb la seguretat dels adolescents» i que l'informe no reflecteix com funcionen realment les proteccions: sosté que la major part de les proves podrien haver acabat abans que els controls parentals estiguessin del tot activats.
Cal tenir en compte que la nota no explica com es van fer les proves ni dona xifres, i que no hem pogut consultar l'avaluació completa. Per això convé distingir entre la conclusió de l'entitat i els fets contrastats: hi ha una discrepància oberta sobre el moment i el mètode de l'anàlisi, i només una verificació independent podria resoldre-la.