• 2 min de lectura
Ordenan a Apple y Google eliminar 13 aplicaciones 'nudify'
El fiscal de la ciudad de San Francisco, David Chiu, envió cartas de cese y desistimiento exigiendo que Apple y Google eliminen 13 aplicaciones de desnudos deepfake.
Imagen: Engadget
Según Wired, el fiscal de la ciudad de San Francisco, David Chiu, ordenó a Apple y Google eliminar 13 aplicaciones 'nudify' impulsadas por IA de sus tiendas de aplicaciones.
Chiu envió cartas de cese y desistimiento a ambas compañías, pidiéndoles que dejen de distribuir aplicaciones que pueden generar imágenes de desnudos deepfake y que dejen de colaborar con los desarrolladores detrás de ellas. Las cartas sostienen que Apple y Google están "ayudando e instigando" la difusión de imágenes íntimas sin consentimiento.
Esto sigue a la demanda previa de Chiu contra 16 sitios web acusados de usar IA para convertir fotos de mujeres y niñas reales en pornografía. Le dijo a Wired que Apple y Google probablemente han ganado millones con los pagos dentro de las aplicaciones vinculados a estas apps y afirmó que sus tiendas necesitan una moderación más estricta para evitar que se apruebe ese tipo de software.
Recomendado
LG recibe críticas por instalaciones en monitores y cláusulas sobre voz en televisores
La presión llega después de un informe de principios de año de The Tech Transparency Project (TTP), que afirmaba que las aplicaciones de 'nudificación' se estaban pasando rutinariamente por alto en los sistemas de revisión de Apple y Google. El informe también alegaba que algunas se promocionaban activamente en la App Store y Google Play, y que muchas tenían la clasificación "E" (para todos), lo que las hacía accesibles a niños. Según el TTP, los usuarios podían encontrarlas simplemente buscando términos como "nudify" o "undress". Esto a pesar de que ambas compañías tienen políticas que prohíben material sexual o pornográfico.
Otras empresas tecnológicas enfrentan un escrutinio similar. La Junta de Supervisión de Meta instó recientemente a la compañía a proteger mejor a las personas corrientes que son objetivo de deepfakes, afirmando que las salvaguardas existentes parecen favorecer a las figuras públicas. La xAI de Elon Musk también enfrenta varias demandas por deepfakes no consentidos.
Un portavoz de Google dijo a Wired que la compañía había eliminado "cientos" de aplicaciones con funciones de 'nudificación', incluidas cinco identificadas por Chiu, y afirmó que actúa con "rapidez" cuando las aplicaciones violan sus políticas. Apple no hizo comentarios antes de la publicación, según Wired.
Security Editor
Sophia unpacks the invisible wars happening on our networks. Covering cybersecurity, privacy legislation, and cryptography, she exposes how our data is weaponized and defended. Before joining for(geeks), she spent years as a penetration tester. She's the reason the rest of the team uses physical security keys.
vía Engadget
