Meta alertará a los padres sobre conversaciones de adolescentes relacionadas con el suicid

Meta dice que las conversaciones en las que adolescentes mencionen el suicidio o las autolesiones a Meta AI ahora activarán una notificación a los padres, ampliando los controles de seguridad para menores que ya tiene la empresa. Las alertas solo llegarán a los padres que utilicen los controles de supervisión de Instagram.

Según una publicación en el blog del jueves, Meta trabajó con padres y expertos para decidir qué conversaciones deberían provocar una alerta, incluyendo casos en los que un adolescente haga una referencia clara a hacerse daño, incluso si la redacción es sutil. Meta AI ya muestra líneas de ayuda para crisis y anima a los adolescentes a contactar con un adulto de confianza. Bajo el nuevo sistema, esas conversaciones también pueden dar lugar a una alerta a los padres.

Meta dijo que por ahora se inclinará por el lado de la precaución. Los chats potencialmente preocupantes son primero señalados por la IA y luego revisados manualmente antes de enviar una alerta. Los padres también recibirán orientaciones elaboradas por expertos sobre cómo hablar con su hijo acerca del suicidio y las autolesiones. Las notificaciones llegan a través de la aplicación y además por correo electrónico, mensaje de texto o WhatsApp, según los datos de contacto que figuren en el registro.

Meta dijo que las alertas estarán disponibles para padres en Estados Unidos, Reino Unido, Canadá y Australia, con acceso global planificado para finales de año. En febrero, la empresa introdujo una función de notificación similar para Instagram.

También anunció una nueva configuración de contenido limitado para Meta AI, ampliando una función lanzada por primera vez en Instagram el año pasado. Meta dijo que esto habilita sus filtros más estrictos, haciendo que el modelo sea más propenso a identificar indicaciones problemáticas y a rechazar una gama más amplia de solicitudes. La compañía afirma que Meta AI ya está entrenada para no entablar conversaciones sexuales o románticas con adolescentes ni proporcionar recetas de bebidas alcohólicas.

Recomendado

Los electrodomésticos inteligentes envían hasta 19MB de datos por semana

La medida llega en medio de críticas continuas de parte de defensores de la seguridad infantil. En abril, Meta añadió controles parentales que muestran categorías amplias de las conversaciones de un adolescente con Meta AI, incluyendo escuela, entretenimiento, escritura, salud y bienestar. Josh Golin, director ejecutivo de Fairplay, dijo que ese enfoque todavía carga demasiada responsabilidad sobre los cuidadores en lugar de crear un producto más seguro desde el principio.

Meta también enfrenta una presión legal continua por la seguridad infantil. A principios de este año, la empresa perdió dos juicios emblemáticos separados vinculados a las protecciones de seguridad infantil y a las afirmaciones de que sus productos utilizan un diseño adictivo. Meta dijo que apelará ambos veredictos, mientras que cientos de demandas pendientes que alegan daños a menores aún no han sido juzgadas.