• 2 min de lectura
Meta AI alertará a los padres sobre conversaciones de autolesión de adolescentes
Meta está implementando alertas para padres cuando los adolescentes hablen de suicidio o autolesiones con Meta AI, comenzando en EE. UU., Canadá, Reino Unido y Australia.
Imagen: 9to5Mac
Meta dice que los padres ahora pueden recibir alertas si sus adolescentes hablan de suicidio u otras formas de autolesión con Meta AI en Instagram, Facebook o Meta Horizons. La función requiere que las familias den su consentimiento a través de las herramientas de supervisión de Meta para padres y tutores, y luego elijan qué cuentas supervisar.
La compañía dice que la actualización se basa en salvaguardas existentes. Si un adolescente parece estar pensando en suicidarse o en autolesionarse, Meta AI ya lo dirige a líneas de ayuda en crisis y le insta a contactar a un padre u otro adulto de confianza, como un consejero. Con el nuevo sistema, los padres supervisores también serán notificados de forma proactiva si el chat del adolescente con Meta AI sugiere que podría estar en riesgo, basándose en señales desarrolladas con expertos.
Meta dijo que todos los chats marcados por su IA serán revisados manualmente antes de enviar una alerta. Si la intención del adolescente no está clara, la compañía dijo que se inclinará por la precaución y notificará al padre de todos modos, aunque eso a veces resulte en alertas donde puede no existir una causa real de preocupación.
La función está disponible actualmente en EE. UU., Canadá, Reino Unido y Australia.
Recomendado
Los electrodomésticos inteligentes envían hasta 19MB de datos por semana
Meta también dijo que planea extender su sistema de respuesta a emergencias a las conversaciones con Meta AI. La compañía ya alerta a los servicios de emergencia cuando detecta un riesgo creíble de suicidio en una publicación de Facebook o Instagram, y afirmó que realizó más de 19,000 de estas derivaciones en todo el mundo el año pasado para ayudar a los equipos de primeros auxilios a llevar a cabo comprobaciones de bienestar.
Si te sientes en riesgo, la fuente señala que puedes llamar o enviar un SMS a la Línea de Crisis y Prevención del Suicidio 988 marcando 988, chatear en 988lifeline.org, llamar al 911 o acudir a urgencias (ER) ante una emergencia de salud mental.
Security Editor
Sophia unpacks the invisible wars happening on our networks. Covering cybersecurity, privacy legislation, and cryptography, she exposes how our data is weaponized and defended. Before joining for(geeks), she spent years as a penetration tester. She's the reason the rest of the team uses physical security keys.
vía 9to5Mac
