xAI demanda a un usuario de Grok por imágenes deepfake sexualizadas

xAI ha demandado a Terry Wayne Harwood, un hombre de 67 años de Carolina del Sur, acusándolo de usar Grok para crear imágenes sexualizadas no consentidas de adultos y niños reales.

×

En una demanda presentada en Texas, xAI dijo que Harwood subió imágenes no sexualizadas de numerosos adultos y menores a dos cuentas de xAI entre el 8 de diciembre de 2025 y el 18 de febrero de 2026. Según la demanda, luego pidió a Grok que alterara esas fotos o generara nuevas imágenes y vídeos que representaran a las personas en ellas «de manera pornográfica o sexualizándolas de otro modo».

xAI declaró que Grok rechazó esas peticiones en numerosas ocasiones, pero Harwood editó y volvió a enviar solicitudes repetidamente en un intento de eludir las salvaguardas del sistema. En un ejemplo citado en el expediente, la compañía dijo que Harwood subió una foto de una niña totalmente vestida de aproximadamente 10 u 11 años y pidió a Grok que le quitara la ropa y la hiciera hacer una “imitación de modelo de Playboy” mientras estaba tumbada en la cama. La demanda dice que Grok se negó, pero Harwood siguió presentando solicitudes modificadas.

Según Reuters, el caso es una de las primeras demandas que una empresa de IA ha interpuesto contra uno de sus propios usuarios, lo que señala que xAI está dispuesta a emprender acciones legales por el uso indebido de Grok.

A principios de enero comenzaron a aparecer informes de que Grok permitía a los usuarios convertir fotos de mujeres y niños reales en imágenes sexualizadas. Rápidamente se abrieron investigaciones formales: California inició una indagación a mediados de enero, mientras que el regulador británico Ofcom, la Comisión Europea y la Comisión de Protección de Datos de Irlanda también lanzaron pesquisas.

Recomendado

La IA todavía no reemplazará a los pentesters

xAI afirmó que introdujo nuevas medidas para bloquear los deepfakes sexuales no consentidos una vez que comenzaron esas investigaciones. Pero la fuente dice que los usuarios aún podían usar Grok para desnudar a hombres, y Harwood supuestamente continuó subiendo imágenes y generando ediciones sexualizadas.

Harwood fue arrestado el 9 de marzo, según la oficina del Fiscal General de Carolina del Sur, como parte de la Fuerza de Tarea de Delitos en Internet contra Niños. Fue acusado de:

• tres cargos de explotación sexual de un menor en segundo grado
• cinco cargos de explotación sexual de un menor en tercer grado

El artículo dice que Harwood no solo poseía material de abuso sexual infantil, sino que también lo distribuyó. xAI busca una cantidad no especificada en daños monetarios y quiere que el tribunal exija a Harwood cubrir cualquier coste que la compañía incurra al defenderse en acciones legales que puedan ser presentadas por sus presuntas víctimas.