La Unió Europea porta anys debatent com protegir els menors en línia, des del Reglament de Serveis Digitals fins a propostes nacionals com la del ministre francès d'IA de prohibir les xarxes socials per sota dels 15 anys o la llei britànica que restringeix l'accés dels adolescents. Fins ara, però, cap proposta legislativa europea havia tractat explícitament els xatbots d'intel·ligència artificial —cada cop més utilitzats per adolescents per parlar de salut mental— com una categoria de risc equiparable a les xarxes socials.
Segons un esborrany filtrat i revelat aquest dilluns per Euronews, la Comissió Europea prepara una «Kids Act» que la presidenta Ursula von der Leyen preveu presentar aquesta setmana. El text estableix trams d'edat —de 3 a 13 anys només amb serveis pensats per a infants i sota supervisió; de 13 a 15 anys amb accés limitat i controls parentals; a partir de 15 anys, accés complet— i inclou explícitament, a més de xarxes socials com Instagram o TikTok i plataformes de vídeo com YouTube, els xatbots d'IA que ofereixen «consells de salut mental i desenvolupament personal» a menors. Les empreses hauran de bandejar dissenys addictius com el desplaçament infinit, aplicar comptes privats per defecte i verificar l'edat dels usuaris mitjançant una aplicació europea o solucions nacionals.
És la primera vegada que Brussel·les tracta els xatbots conversacionals amb IA com un servei d'alt risc per a menors dins d'una llei general de protecció infantil, no només dins la legislació sectorial d'IA. La proposta arriba després de mesos de polèmica als Estats Units per casos de suïcidis d'adolescents vinculats a converses amb xatbots, que ja han empès estats com Califòrnia a aprovar les seves pròpies lleis de seguretat, i podria marcar un estàndard de facto per a les grans plataformes que operen també a Europa.
Es tracta d'un esborrany filtrat, no del text definitiu: la Comissió l'ha de presentar formalment, i després haurà de negociar-lo amb els estats membres i el Parlament Europeu abans que pugui convertir-se en llei, un procés que sol allargar-se mesos o anys i que pot modificar substancialment els trams d'edat i les obligacions concretes. Ni la Comissió ni les grans plataformes afectades n'han fet cap valoració oficial.