Meta ahora alerta a los padres sobre chats de autoagresión de adolescentes con IA

Meta ahora notificará a los padres cuando un adolescente hable sobre suicidio o autolesiones con su chatbot Meta AI. El cambio, anunciado en una entrada de blog el jueves, ya está activo en Estados Unidos, Reino Unido, Australia y Canadá, según TechCrunch, y se desplegará al resto del mundo antes de fin de año.

Meta dijo que creó un sistema de IA dedicado para detectar conversaciones en las que un adolescente hace una referencia clara a hacerse daño. Cada conversación marcada es revisada por una persona antes de que se envíe una alerta. Si la intención del adolescente no está clara, la compañía dijo que aun así se inclinará por la precaución y notificará al progenitor.

La alerta no incluye el mensaje exacto, informó CNET. En su lugar, los padres que usan las herramientas de supervisión de Instagram reciben una notificación junto con una guía redactada por expertos sobre cómo iniciar la conversación. La función amplía las salvaguardias anteriores de Meta, incluidas las alertas por términos de búsqueda en Instagram y una herramienta que muestra a los padres los temas que un adolescente trata con Meta AI.

Meta también está desarrollando un sistema para alertar a los servicios de emergencia cuando una conversación sugiere que alguien —adolescente o adulto— puede estar en riesgo inminente. La compañía ya hace esto con publicaciones en Facebook e Instagram, realizando más de 19.000 derivaciones de este tipo el año pasado. Su más estricta configuración de Contenido Limitado ahora también se aplica a Meta AI, ampliando el abanico de indicaciones que el chatbot rechazará. Meta dijo que el asistente ya está entrenado para evitar conversaciones sexuales, románticas o relacionadas con el alcohol con adolescentes.

La compañía dijo que consultó a más de 75 profesionales clínicos. Larry Magid, de la ONG ConnectSafely, apoyó el enfoque como un equilibrio entre la privacidad del adolescente y la conciencia de los padres. Otros estaban menos convencidos. Brendan Bouffard, abogado de Fairplay, dijo a Mashable que la medida es «un paso en la dirección correcta, pero… debe recibirse con escepticismo». El experto clínico, el doctor John Ackerman, añadió que tales alertas podrían equivaler a «palabrería» a menos que sean fáciles de usar y conduzcan a una intervención real.

Recomendado

Los nombres en Zoom ahora incluyen una advertencia de «no me grabes»

El cambio llega cuando Meta enfrenta una presión creciente más allá de la seguridad del producto. La compañía perdió dos juicios este año relacionados con la seguridad infantil y la adicción a las redes sociales y está apelando ambos. OpenAI ha introducido sus propias protecciones para adolescentes, incluida una función de Contacto de Confianza y recordatorios para tomar descansos.

El anuncio también se produce en medio de una semana más amplia de escrutinio sobre la seguridad de la IA. Un estudio de la Junta de Supervisión de Meta publicado el mismo día encontró que los grandes modelos de Meta, Anthropic y OpenAI eran más propensos a rechazar críticas a líderes restrictivos que a líderes permisivos, informó la Associated Press, con ejemplos que involucraban a China y Arabia Saudí. El informe advirtió que esto podría suponer «extender el largo brazo de los gobiernos restrictivos más allá de las fronteras».

Al mismo tiempo, Google rechazó un informe de Common Sense Media que etiquetaba a su Búsqueda de IA como «un riesgo inaceptable» para los niños, según Digital Trends, alegando que las pruebas se basaban en búsquedas artificiosas que no pudo reproducir.

El escrutinio se está extendiendo a nivel mundial: Canadá ha endurecido las reglas sobre chatbots y menores, Ofcom está investigando TikTok, Australia ha introducido límites en el uso de redes sociales para adolescentes y China ha tomado medidas contra los compañeros de IA.

Este es un tema delicado. En Estados Unidos, las personas pueden llamar o enviar un mensaje de texto al 988. En otros lugares, hay apoyo local en findahelpline.com.