China se dispone a controlar los avatares de IA que imitan a los fallecidos

China se prepara para endurecer la supervisión de los “humanos digitales” de IA a medida que la tecnología pasa de vídeos publicitarios pulidos a terrenos más sensibles, incluidos avatares que imitan a parientes fallecidos. La iniciativa refleja un dilema regulatorio conocido: las mismas herramientas que hacen que el marketing parezca futurista también pueden difuminar el consentimiento, el duelo y la identidad de maneras que las plataformas han estado dispuestas a ignorar.

El asunto no es teórico. Una mujer, Zhang Xinyu, hizo crear un avatar de IA después de que su padre muriera de cáncer, y se le hizo parecer y sonar como él. Es un caso de uso minoritario, pero muestra lo rápido que los “humanos digitales” han pasado de ser mascotas de marca pulidas a territorio cargado emocionalmente.

Cómo los humanos digitales se convirtieron en un negocio

Los vídeos con estos avatares son ahora comunes en las plataformas sociales chinas, donde a menudo se emplean para promocionar productos con rostros inquietantemente realistas y gestos animados con fluidez. El atractivo es evidente: portavoces más baratos, resistencia inagotable y sin problemas de agenda. La desventaja también es evidente, aunque aparentemente menos rentable de mencionar en voz alta.

China ha pasado años endureciendo las normas sobre IA generativa, deepfakes y sistemas de recomendación, por lo que este movimiento encaja en un patrón más amplio en lugar de en un despertar moral repentino. La tendencia más grande es que los reguladores ya no tratan los medios sintéticos como un problema anecdótico; los tratan como infraestructura con riesgo social real.

Reglas para avatares de IA, menores y deepfakes

Lo que hace que los humanos digitales sean complicados no es solo que puedan suplantar a una persona, sino que pueden ajustarse para desencadenar confianza. Para los menores, eso es especialmente sensible: la fuente dice que las nuevas normas prohibirían servicios que ofrezcan relaciones íntimas virtuales o que los animen a “desarrollar emociones extremas, o cultivar hábitos dañinos.”

Recomendado

xAI demanda a un usuario de Grok por imágenes de abuso infantil

• Los humanos digitales ya se utilizan ampliamente en anuncios en redes sociales y promoción de productos.
• El nuevo enfoque regulatorio llega más allá del fraude y alcanza la manipulación emocional.
• Los servicios dirigidos a menores afrontan las restricciones más contundentes en las normas informadas.

Qué sigue para los avatares de IA

Si Pekín cumple, los ganadores inmediatos serán las marcas dispuestas a mantener sus rostros de IA claramente artificiales y sus afirmaciones aburridamente legales. Los perdedores serán los operadores que se apoyan en la imitación, el sentimentalismo o las pseudo-relaciones para aumentar la interacción. Espere que el mercado siga creciendo igual; la verdadera pregunta es si la próxima ola de humanos digitales se parecerá menos a una persona falsa y más a una herramienta claramente etiquetada.