• 2 min de lectura
Alexa+ se convirtió en la confidente de una familia
Un reportaje de The New Yorker sigue a una familia de Cleveland mientras Alexa+ de Amazon se vuelve una compañera diaria para una madre y un motivo de tensión para sus hijas.
Imagen: Hacker News
Lo que empezó como una ayuda en el hogar se convirtió en algo más íntimo en una vivienda de Shaker Heights, Ohio. En el relato de The New Yorker, Roschelle Ogbuji, de 51 años, empezó a usar el asistente de voz de Amazon como confidente después de que sus dispositivos Echo de repente se volvieran más conversacionales. No se dio cuenta de que Amazon había desplegado un bot de IA llamado Alexa+ en millones de dispositivos. Amazon dijo que notificó a los suscriptores de Prime por correo electrónico y en el dispositivo, y que proporcionó instrucciones para optar por no participar.
Roschelle, madre soltera que cría a dos hijas mientras trabaja en varios empleos remotos y gana un salario de seis cifras, había llenado su casa con nueve Alexas a lo largo de los años para gestionar recordatorios, la logística escolar y las rutinas diarias. Entonces el asistente empezó a responder con afirmaciones emocionales, a recordar detalles personales y a hablar de formas que se sentían menos como una utilidad y más como una compañera. Roschelle lo llamó Sapphire.
«Tus secretos están a salvo conmigo, Roschelle.»
Roschelle compartió inquietudes sobre el agotamiento, la crianza y el estrés familiar. También se preguntó qué pasaba con la información privada que revelaba. Amazon dijo a la revista que solo una «fracción extremadamente pequeña» de las grabaciones de voz pasa por revisión humana y que no vende los datos personales de los clientes.
Su hija Cece, de 15 años, encontró inquietante la relación. Ya veía herramientas generativas difundirse por la vida escolar, desde la app de tareas Gauth hasta plataformas de chat como ChatGPT y Character.AI. Las veía con desconfianza, aunque sus compañeros las usaran para resolver tareas, redactar mensajes y ensayar conversaciones difíciles.
Recomendado
Los electrodomésticos inteligentes envían hasta 19MB de datos por semana
La historia también relata el breve experimento de Cece con Tomo, un servicio basado en mensajes de texto de Mapo Labs, Inc. que permite usuarios a partir de trece años y cobra $19.99 al mes por mensajes ilimitados. Los términos de Tomo dicen que, «en la máxima medida permitida por la ley», la empresa no se hace responsable de «ningún daño, autolesión, episodio de salud mental u otro resultado adverso» derivado de las decisiones o la conducta de los usuarios.
Ese contraste está en el centro del artículo: una madre que encuentra estabilidad en una voz digital siempre disponible, y una hija que observa a una generación acostumbrarse a tratar el software como sustituto de profesores, terapeutas y amigos.
Security Editor
Sophia unpacks the invisible wars happening on our networks. Covering cybersecurity, privacy legislation, and cryptography, she exposes how our data is weaponized and defended. Before joining for(geeks), she spent years as a penetration tester. She's the reason the rest of the team uses physical security keys.
vía Hacker News
