La marca de agua de IA de Meta llega tarde y parece a medio hacer

Meta finalmente ha lanzado su propio sistema de marcado de agua para IA, pero Content Seal se parece menos a un avance que a una versión tardía y más limitada de herramientas que ya existen en el mercado.

El movimiento sigue a un llamado en marzo del Consejo de Supervisión de Meta, que instó a la compañía a «cumplir sus compromisos públicos y emplear sus propias herramientas» para ayudar a frenar el contenido engañoso generado por IA en sus plataformas. Meta respondió en julio con Content Seal, un sistema de marca de agua invisible para imágenes generadas por su nuevo modelo Muse, aunque se presentó casi como una nota al margen en el lanzamiento más amplio de Muse.

Según la descripción de Meta, Content Seal funciona de forma muy parecida a SynthID de Google. Inserta un marcador de procedencia oculto en las imágenes generadas por IA que luego puede ser escaneado por una herramienta de detección, y Meta dice que el marcador debería sobrevivir si una imagen es recortada, comprimida, redimensionada o capturada por pantalla. Eso plantea una pregunta obvia: ¿para qué construir otro sistema?

Meta ya forma parte del comité directivo de C2PA, junto con Google, y OpenAI ya ha adoptado SynthID. Pero Meta eligió crear un estándar separado de todos modos, y ahora mismo viene con algunas limitaciones evidentes.

La detección de Content Seal se limita a imágenes de Muse

Al lanzarlo, Content Seal solo se aplica a imágenes generadas por Muse en la app Meta AI y en el sitio web Meta.ai. No cubre contenido creado con los modelos de IA anteriores de Meta, y el soporte para video generado aún no está disponible, aunque Meta dice que llegará «pronto».

Recomendado

Google prepara el chip Frozen v2 para un salto de eficiencia de Gemini

Los usuarios tampoco pueden comprobar Content Seal dentro de los productos de consumo de Meta todavía. La detección está actualmente limitada a una herramienta web dedicada que Meta está probando, a diferencia del enfoque de Google de integrar capacidades similares en Gemini. La portavoz de Meta, Faith Eischen, dijo a The Verge que la compañía está «explorando formas de acercar la detección a los lugares donde la gente se encuentra con contenido generado por IA».

×

Meta también ha impuesto un límite diario de solicitudes para las comprobaciones de imágenes a través de la herramienta de detección. Eischen dijo que eso pretende soportar el «uso normal» mientras previene el mal uso, aunque Meta no explicó en qué consistiría ese mal uso. Google y OpenAI también imponen límites en sus herramientas de detección, mientras que C2PA no.

El soporte fuera de las plataformas de Meta sigue sin estar claro

En Facebook e Instagram, Meta dice que usa metadatos no especificados junto con el marcado Content Seal para ayudar a identificar contenido generado por IA. Pero al preguntársele si Meta estaba dando orientaciones a otras plataformas como TikTok y LinkedIn sobre cómo detectar Content Seal, Eischen solo dijo que la compañía está «decidida a trabajar con nuestros pares de la industria para asegurarse de que los usuarios tengan la mejor experiencia posible».

Eso sugiere que el apoyo del ecosistema más amplio aún no está resuelto. The Verge informa que cuando probó una imagen generada por Muse en Gemini y en el portal de detección oficial de C2PA, ninguno de los sistemas la identificó como generada por IA.

×

Eischen dijo a The Verge:

«Como otros, construimos Content Seal de forma nativa conforme a nuestras propias especificaciones técnicas y productos. Se requieren múltiples enfoques que trabajen juntos para abordar esto en todo el ecosistema, y nos complace contribuir a ese esfuerzo.»

Meta ha ofrecido herramientas de generación de imágenes por IA desde 2023, lo que significa que una gran acumulación de medios sintéticos hechos por Meta permanece fuera de este nuevo sistema. La compañía también introdujo etiquetas de IA en Instagram y Facebook en 2023, lo que suscitó críticas después de que algunas fotos reales fueran marcadas incorrectamente como «Hecho por IA».

La incertidumbre también es visible a nivel directivo. En una entrevista de podcast con Lenny Rachitsky, el responsable de Instagram, Adam Mosseri, dijo que las personas que no gustan del contenido generado por IA deberían poder evitarlo en sus feeds, y luego afirmó: «No creo que debamos filtrar el contenido de IA», mientras que también argumentó que a los usuarios se les debe informar si el contenido es generado por IA.

Por ahora, el nuevo sistema de marcas de agua de Meta parece incompleto: solo funciona con el modelo más reciente de la compañía, depende de un sitio de detección separado y puede que no interopere sin problemas con las herramientas de etiquetado más amplias que la gente ya usa. Reuters también encontró que Content Seal no detectó más de la mitad de las imágenes generadas por Muse que probó después de que fueron recortadas.