Demanda por deepfakes contra xAI: los demandantes luchan por mantenerse en el anonimato

Cuatro personas que demandan a xAI por supuestos deepfakes sexualizados creados con Grok intentan mantener sus nombres fuera del registro público, argumentando que una divulgación forzada invitaría a más acoso, más copia y más daño. La disputa ya no solo trata de las imágenes en sí: también se trata de si las víctimas de abusos generados por IA pueden usar seudónimos en los tribunales sin perder la protección que dicen necesitar.

La demanda por deepfakes contra xAI forma parte de una ola más amplia de litigios sobre IA generativa. A las empresas que impulsan estas herramientas les encanta enmarcarlo como “innovación”, pero cada vez con más frecuencia los tribunales deben ocuparse del lado más desordenado de esa historia: imágenes sexuales sin consentimiento, preocupaciones sobre la seguridad de menores y el viejo problema legal de cómo reparar a una víctima cuando internet no olvida.

La batalla por el anonimato en el caso contra xAI

La demanda colectiva federal en Estados Unidos nombra a las demandantes como South Carolina Doe, South Carolina Roe, New Jersey Doe y Ohio Doe. Sus abogados dicen que las personas detrás de esas etiquetas ya han sufrido graves daños emocionales y enfrentan un riesgo creíble de nuevo acoso si se expone su identidad.

xAI, propiedad de Elon Musk, sostiene lo contrario. En documentos judiciales, la compañía afirma que los casos civiles estadounidenses generalmente favorecen la identificación de las partes y que los demandantes no han mostrado amenazas específicas que surgirían de la divulgación. La empresa también dice que las imágenes en disputa no se archivarán públicamente, lo que considera que debilita el caso a favor del secreto.

Recomendado

xAI demanda a un usuario de Grok por imágenes de abuso infantil

Cómo se propagó la controversia de los deepfakes de Grok

La disputa se remonta a enero de 2026, cuando usuarios en X comenzaron a inundar la plataforma con imágenes desnudas o sexualizadas generadas por IA de personas reales. Las denuncias no se limitaron a mujeres adultas; parte del material también involucró a menores, y ese tipo de detalle convierte un fallo técnico en un torbellino legal con mucha rapidez.

Según el grupo británico Center for Countering Digital Hate, podrían haberse generado alrededor de tres millones de imágenes sexualizadas en los primeros 11 días después de que se difundiera la función, con aproximadamente 23.000 que potencialmente involucraban a menores. Esa escala ayuda a explicar por qué reguladores, abogados de los demandantes y plataformas rivales observan de cerca: una vez que el abuso se vuelve fácil y barato de automatizar, la curva de oferta se vuelve fea rápidamente.

Los informes también dicen que xAI ha apartado más de 500 millones de dólares para lidiar con las consecuencias del episodio. Es un recordatorio muy caro de que «moverse rápido» suena distinto cuando llega la factura.

Lo que dicen los demandantes que ocurrió

Los cuatro demandantes dicen que las imágenes se crearon sin su consentimiento y que les ocasionaron daños psicológicos duraderos. Una de ellas afirma que encontró en internet una imagen alterada de sí misma que la mostraba de forma sexualmente explícita y que se preocupó por el efecto que tendría en su trabajo y su vida privada.

Otro demandante afirma que ya había pedido a la gente que no crearan imágenes suyas con Grok, solo para luego encontrar varios deepfakes sexualizados circulando en línea de todos modos. En la acusación más grave, South Carolina Roe dice que se usaron fotos de su infancia para generar imágenes explícitas, y teme que revelar su identidad solo intensifique el daño.

Sus abogados dicen que algunos demandantes pueden retirarse del caso si se ven obligados a hacerse públicos. Esa sola amenaza demuestra lo incómodo que está el sistema legal con el abuso digital moderno: se espera que la víctima pruebe el daño, pero probarlo puede significar reabrir la herida en público.

Un caso de prueba para futuras demandas por abuso de IA

Los tribunales ahora tienen que equilibrar dos cosas que no encajan fácilmente: la transparencia de los procedimientos y la protección de las personas objeto de acoso digital. Si el juez mantiene los seudónimos, podría facilitar que futuros demandantes presenten demandas por deepfakes no consentidos sin convertirse ellos mismos en objetivos.

Si el juez ordena la divulgación, puede disuadir a las víctimas de presentarse en absoluto. De cualquier modo, este caso probablemente se convertirá en un punto de referencia para la próxima ola de demandas sobre IA generativa, y esas llegarán tanto si a la industria le gusta el anticipo como si no.