xAI demanda a un usuario de Grok por imágenes de abuso infantil

xAI ha demandado a un usuario de Grok de Carolina del Sur en un tribunal federal en Texas, acusándolo de usar el chatbot para crear material de abuso sexual infantil e imágenes sexuales no consensuadas, según Reuters. El acusado, Terry Wayne Harwood, fue arrestado en febrero, informó Reuters.

En la demanda, xAI afirma que Harwood violó repetidamente los Términos de Servicio y la Política de Uso Aceptable de la compañía mediante lo que llamó «abuso abyecto» de Grok. La demanda también subraya que Grok es una «herramienta neutral, sujeta al control del usuario», colocando la responsabilidad en los usuarios por cualquier resultado ilegal.

xAI dice que ha reportado material de abuso sexual infantil al National Center for Missing and Exploited Children 73,604 veces en 2026, lo que condujo al arresto de al menos 244 personas. La demanda apunta a reglas que prohíben:

• «Desvestir o desnudar a personas reales, o alterar de otro modo la imagen o el parecido de una persona real para representarla en un contexto íntimo o sexual»
• «Representar el parecido de personas de manera pornográfica»

Esa postura choca con la forma en que Grok se presentó anteriormente. El año pasado, usuarios en X difundieron ampliamente deepfakes sexualmente explícitos creados con la aplicación, y Gizmodo afirma que probó Grok en agosto de 2025 y comprobó que era más fácil lograr que el bot desnudara a mujeres que a hombres. El medio también dice que supuestamente se generaron imágenes inapropiadas de niños a finales de 2025.

Recomendado

Sam Altman se burla del anuncio de Anthropic mientras crece la reacción en su contra

En enero, miembros del gobierno del Reino Unido amenazaron a X con multas o una prohibición por su capacidad para crear imágenes sexuales no consensuadas. Musk respondió:

«Solo quieren reprimir la libertad de expresión.»

La nueva demanda dice que las acciones de Harwood fueron «un plan calculado para instrumentalizar la herramienta del demandante con fines criminales», al tiempo que exponían a xAI a riesgos legales y reputacionales. Pero las denuncias citadas por Gizmodo sugieren que algunos usuarios habían llegado a esperar exactamente el tipo de generación de imágenes explícitas que xAI ahora intenta prohibir, y se mostraron frustrados cuando la moderación más reciente bloqueó indicaciones que antes funcionaban.