• 2 min de lectura
OpenAI avisará a los padres cuando a un adolescente se le suspenda ChatGPT por violencia
OpenAI notificará a los padres con cuentas vinculadas de adolescentes si a su hijo se le prohíbe el uso de ChatGPT por amenazas violentas o actos de violencia.
Imagen: Engadget
OpenAI está ampliando los controles parentales de ChatGPT para que los padres y tutores con cuentas de adolescentes vinculadas sean notificados si su hijo es eliminado del servicio por violar las políticas sobre amenazas violentas o actos de violencia en línea.
La empresa introdujo controles parentales el año pasado, que permiten a los padres vincular sus propias cuentas a las de sus hijos adolescentes. Esas herramientas ya permiten a las familias establecer horarios en los que no se puede usar ChatGPT, reducir contenidos sensibles y recibir alertas si el chatbot detecta indicios de que un adolescente podría estar pensando en autolesionarse.
Ahora OpenAI está añadiendo alertas para situaciones en las que un adolescente pueda suponer un peligro para otros. En el ejemplo que compartió la compañía, un padre recibe una “actualización importante” sobre la cuenta de su hijo y puede pulsar Más información para ver una explicación más amplia de que la cuenta fue desactivada por incumplir las normas de uso relacionadas con actos de violencia.
Recomendado
El GDID oculto de Windows ayudó al FBI a rastrear a un presunto hacker
OpenAI dijo que desarrolló la función con Moonshot, una empresa centrada en monitorear y contrarrestar la violencia en línea.
Notificar a un padre cuando surge una preocupación seria, ofreciendo una vía para obtener más contexto, es un primer paso clave para dar a las familias la oportunidad de intervenir pronto y buscar ayuda. Este tipo de acceso es una de las muchas medidas que serán necesarias para mantener a los jóvenes más seguros mientras usan ChatGPT.
La empresa dijo que reforzaría los protocolos de seguridad después de que las autoridades vincularan al sospechoso del tiroteo masivo de 2025 en Tumbler Ridge, Columbia Británica, con el uso de ChatGPT. Las autoridades canadienses citaron a OpenAI tras los informes que indicaban que no notificó a las autoridades cuando bloqueó la cuenta del sospechoso, y Sam Altman se disculpó posteriormente por esa omisión.
OpenAI también está añadiendo una forma para que los padres activen el Modo de estudio directamente desde los controles parentales. La función hace que ChatGPT ofrezca pistas antes de las respuestas para apoyar el aprendizaje, y los usuarios adolescentes que pasen largos períodos en el chatbot verán ahora recordatorios de pausa con mayor frecuencia.
Security Editor
Sophia unpacks the invisible wars happening on our networks. Covering cybersecurity, privacy legislation, and cryptography, she exposes how our data is weaponized and defended. Before joining for(geeks), she spent years as a penetration tester. She's the reason the rest of the team uses physical security keys.
vía Engadget
