La búsqueda del App Store seguía mostrando apps «nudify», dice un informe

La búsqueda del App Store de Apple aparentemente está ayudando a la gente a encontrar apps «nudify», según una nueva investigación del Tech Transparency Project. El informe afirma que el autocompletado, los resultados promocionados y la clasificación de búsqueda siguen mostrando herramientas de manipulación de imágenes que pueden generar imágenes deepfake de mujeres desnudas. Google Play también fue mencionada en el informe, lo que sugiere que ambas tiendas de apps aún tienen dificultades para mantener estas herramientas fuera.

Ahí está la parte incómoda para Apple. La compañía gusta de presentarse como un control estricto del App Store, pero la búsqueda es donde la moderación a menudo muere: si el listado sobrevive, el sistema de clasificación aún puede darle un megáfono. Google Play también fue nombrada en el informe, lo que sugiere que esto tiene menos que ver con un mal día de una tienda concreta y más con un modo de fallo familiar de las tiendas de apps que sigue reapareciendo con distinto disfraz.

Términos de búsqueda en el App Store que mostraron apps «nudify»

TTP dice que búsquedas de términos como «nudify», «undress» y «deepnude» arrojaron apps que podían representar a mujeres desnudas o con ropa escasa en una proporción sorprendentemente alta entre los resultados principales. También encontró colocaciones patrocinadas para algunas de esas apps, que es el tipo de detalle que haría retorcerse a los equipos de publicidad de las plataformas: si los usuarios pueden comprarse un hueco en búsquedas sensibles, la moderación tiene un agujero lo suficientemente grande como para que pase por él un memo de políticas.

• Casi el 40% de los 10 primeros resultados de esas búsquedas podían mostrar a mujeres desnudas o con ropa escasa.
• Algunas búsquedas devolvieron resultados patrocinados para apps de estilo nudify.
• El App Store también sugirió «image to video AI NSFW» tras una búsqueda que empezaba con «AI NS».

Apple eliminó la mayoría de las apps tras el informe

El informe incluye ejemplos de lo rápido que esas herramientas pueden cruzar la línea. En un caso, una app llamada FaceSwap Video de DuoFace supuestamente convirtió una imagen subida de una mujer vestida en un vídeo usando un cuerpo desnudo; en otro, AI Face Swap intercambió rostros entre una mujer con un suéter y una imagen en topless sin restricciones. TTP afirma que también contactó con varios desarrolladores, y al menos uno dijo que estaba usando Grok para la generación de imágenes y que endurecería los ajustes de moderación después de afirmar que no se había dado cuenta de que el sistema podía producir contenido tan extremo.

Apple no abordó públicamente el informe, pero sí eliminó la mayoría de las apps que identificó TTP. Esa es la predecible fase de limpieza: retirar los listados, evitar el ciclo mediático y esperar a que aparezca el siguiente lote con nombres algo distintos. Las tiendas de apps llevan años jugando a ese juego, y las herramientas de imagen con IA solo han facilitado disfrazar el mismo abuso de siempre como un inocente intercambio de rostros.

Recomendado

Signal prueba usar teléfonos Android como dispositivos vinculados

El problema más difícil es la clasificación, no solo la revisión

Lo que hace que este informe escueza es que apunta más allá de la aprobación de apps individuales. Si las sugerencias de búsqueda y las colocaciones promocionadas pueden dirigir a los usuarios hacia herramientas deepfake sexualizadas, entonces el sistema de descubrimiento de la tienda está haciendo parte del trabajo de distribución por ellas. Eso es más difícil de arreglar que las simples eliminaciones, y plantea la incómoda pregunta que Apple y Google preferirían no responder en voz alta: ¿cuánto daño está creando la forma en que sus tiendas recomiendan apps, no solo lo que permiten en ellas?

La siguiente jugada probable es más eliminaciones, algunos ajustes de política y otra ronda de afirmaciones de que las plataformas se toman la seguridad en serio. La pregunta abierta es si alguna de las tiendas tocará los incentivos incorporados en los anuncios de búsqueda y el autocompletado, porque ahí es donde este problema sigue filtrándose.