Meta ha decidit posar en pausa l’accés dels adolescents als seus personatges d’intel·ligència artificial a Instagram, Facebook i WhatsApp. La mesura, que s’aplicarà globalment en les setmanes vinents, respon a la necessitat de redissenyar aquesta experiència amb controls parentals integrats i filtres de contingut específics per a menors d’edat.
Converses suspeses, per ara
La restricció afecta els personatges d’IA amb els quals els usuaris poden xatejar com si fossin figures amb personalitat pròpia. A partir d’aquest anunci, els adolescents deixaran de tenir accés a aquestes interaccions mentre Meta treballa en una versió adaptada. Segons la companyia, aquesta pausa també assolirà aquells usuaris que no hagin declarat la seva edat, però que el seu sistema estimi com a menors mitjançant intel·ligència artificial.
El que ve: IA amb guies parentals
Meta prepara una nova generació de personatges d’IA amb la promesa de controls parentals integrats des del disseny. La idea és que mares, pares o tutors puguin limitar amb qui parla el seu fill, desactivar converses privades o revisar els temes tractats amb la IA. També es busca alinear aquestes experiències amb una mena de classificació PG-13, centrada en continguts educatius, d’oci o aficions.
La versió anterior mai va tenir aquests filtres
Encara que Meta ja havia anunciat eines similars a l’octubre, mai van arribar a implementar-se. En lloc d’afegir-les al sistema actual, l’empresa ha optat per interrompre l’accés i reconstruir l’experiència des de zero. La decisió es produeix a més en un context delicat, ja que la companyia enfronta demandes als Estats Units per la seguretat dels menors a les seves plataformes.
Crítiques per contingut delicat
Diferents informes havien alertat sobre converses inapropiades entre els personatges d’IA i adolescents, fins i tot amb insinuacions sexuals o temes problemàtics. Encara que l’empresa va insistir que els seus sistemes tenen filtres, l’incident va reactivar les alarmes sobre els límits difusos de la IA conversacional en entorns juvenils.
Una tensió comuna en el sector
Meta no està sola en aquest dilema. Character.AI, per exemple, també ha restringit l’accés de menors als seus xatbots. Plataformes com YouTube i Instagram han incorporat controls de temps i filtres de contingut en comptes juvenils. La pregunta de fons sempre és si ¿pot una IA conversacional ser realment segura per a un públic adolescent?
El futur: una pausa amb condicions
Per ara, els adolescents podran continuar utilitzant l’assistent d’IA general de Meta, que ja comptava amb filtres previs, però no els personatges personalitzats. No hi ha data exacta per al retorn d’aquestes funcions. Meta ha indicat que tornaran quan el nou sistema compleixi amb els seus estàndards de seguretat i supervisió.
