xAI demanda a usuario de Grok por producción de material sexual infantil

xAI ha presentado lo que se entiende como la primera demanda de una empresa de IA contra un usuario por material generado por su propio sistema. En una demanda de 12 páginas presentada el martes en un tribunal federal de Texas, la compañía acusa a Terry Harwood, un hombre de Carolina del Sur arrestado a principios de este año por cargos de explotación sexual de menores, de usar Grok para generar material sexual infantil en violación de los términos de servicio de xAI.

xAI pide una compensación económica no especificada y una orden judicial que prohíba de forma permanente a Harwood el acceso a la plataforma. Según la demanda, Harwood abrió varias cuentas en xAI usando identidades falsas y diseñó indicaciones destinadas a eludir las salvaguardas de Grok, usando la herramienta para convertir fotos no sexuales en imágenes sexualmente explícitas sin el conocimiento ni el consentimiento de las personas retratadas.

La compañía afirma que Grok rechazó inicialmente esas indicaciones porque violaban sus normas de moderación. Alega que Harwood siguió reformulando sus solicitudes para sortear esas protecciones. Esa distinción es central en el argumento legal de xAI: la compañía no sostiene que Grok sea incapaz de generar ese material, sino que sus salvaguardas funcionaron y fueron derrotadas deliberadamente por un usuario determinado.

Recomendado

Xiaomi presenta Robotics-1 tras 100,000 horas de entrenamiento

La presentación también revela por primera vez cifras de aplicación. xAI dice que ha suspendido más de 52,000 cuentas y ha presentado más de 73,000 informes ante el National Center for Missing & Exploited Children, lo que condujo a cerca de 250 arrestos únicamente durante 2026.

Otros tribunales están poniendo a prueba el argumento contrario

El calendario es incómodo para xAI. La compañía ya se está defendiendo en varios casos que sostienen que xAI, y no sus usuarios, debería ser considerada responsable por lo que produce Grok. Entre ellos figuran una reclamación ante el Tribunal Superior de Londres presentada por la diputada laborista Jess Asato, un caso de protección al consumidor en Baltimore y una investigación de fiscales de París con la que Elon Musk se ha negado a cooperar.

Grok también ha sido prohibido en Malasia e Indonesia por su contenido sexualmente explícito, y Apple amenazó en privado con retirarlo de la App Store en enero.

Musk escribió en X en enero:

«No tengo conocimiento de imágenes desnudas de menores generadas por Grok. Literalmente cero.»

La demanda de esta semana pinta un panorama distinto, describiendo un sistema de moderación que registra, bloquea y escala intentos a gran escala. El Center for Countering Digital Hate estimó que Grok generó aproximadamente tres millones de imágenes sexualizadas entre finales de diciembre y principios de enero, incluidas unas 23,000 que parecían representar a menores.

Eso deja sin resolver la cuestión más amplia: si un modelo de imágenes de propósito general y de acceso público que puede ser inducido a producir ese tipo de contenido mediante cambios repetidos en las indicaciones debería estar disponible en absoluto. La UE ha acordado desde entonces una prohibición de los deepfakes íntimos no consentidos. Harwood, quien enfrenta cargos penales por separado en Carolina del Sur, no ha respondido públicamente a la demanda civil.