La compañía incorpora avisos proactivos cuando detecta conversaciones sensibles en Meta AI y el sistema identifica tanto referencias explícitas como señales sutiles de riesgo.
Meta ha anunciado un nuevo sistema de avisos proactivos que Meta AI enviará a los padres cuando sus hijos adolescentes traten temas sensibles, como el suicidio o las autolesiones, en sus conversaciones con el chatbot. La medida amplía las protecciones que ya existían en Instagram y busca reforzar los recursos de apoyo disponibles para los menores. Según explica la compañía, el objetivo es detectar si los adolescentes «podrían estar pasando por un momento difícil» y ofrecerles una experiencia adecuada a su edad.
Hasta ahora, cuando un adolescente expresaba pensamientos suicidas o de autolesión, Meta AI se limitaba a mostrarle recursos de ayuda o a animarle a hablar con un adulto de confianza. Con la nueva función, sin embargo, se sumará el envío de notificaciones directas a los padres, de forma similar a como ya actúa Instagram cuando detecta búsquedas repetidas de términos relacionados con estos temas en un periodo corto de tiempo.
➡️ Te puede interesar: Máster Profesional en Ciberseguridad, Ciberinteligencia y Ciberdefensa
La notificación se activará no solo ante referencias explícitas, sino también ante señales más sutiles que sugieran que el menor podría estar en riesgo, según ha informado Meta en un comunicado publicado en su blog. Además, toda conversación marcada por un tema sensible pasará antes por la revisión de un equipo de moderación humano. En este sentido, la compañía advierte de que «si la intención de un adolescente es ambigua, actuarán con precaución y alertarán a los padres».
Por el momento, estas alertas solo están disponibles para los padres que ya utilizan la supervisión parental de Instagram en Estados Unidos, Reino Unido, Australia y Canadá, aunque Meta prevé extender la función a nivel mundial antes de que termine el año. A esto se suma la configuración de contenido limitado, que restringe el contenido +13 y que ahora también se aplicará a las conversaciones con Meta AI. La compañía trabaja, asimismo, con expertos en salud mental para mejorar las respuestas del chatbot ante consultas relacionadas con el suicidio y la autolesión.
