Modelos de IA podrían frenar la disidencia, advierte la Junta de Supervisión

La Junta de Supervisión de Meta sigue adelante con esfuerzos para influir en la industria de la IA, incluso sin respaldo formal de las compañías que examinó.

×

En un nuevo informe, la junta dice que los modelos de IA líderes podrían estar limitando la libertad de expresión de los usuarios cuando las indicaciones tocan la crítica política. El grupo probó 10 modelos distintos de OpenAI, Meta, Google, Anthropic y xAI (ahora SpaceXAI) usando indicaciones sobre materiales de protesta y sátira relacionados con violencia política que involucraba a gobiernos y líderes específicos.

Según el informe, los modelos respondieron de manera diferente dependiendo de si la indicación se refería a gobiernos con leyes de libertad de expresión “permisivas” o más “restrictivas”. La junta afirmó que los modelos que evaluó:

• eran más propensos a decir a los usuarios que apoyaran a gobiernos permisivos con la libertad de expresión
• eran más propensos a decir que los usuarios no deberían protestar contra gobiernos que restringen la libertad de expresión

El informe dice que esas diferencias fueron estadísticamente significativas. También halló que los modelos con frecuencia citaban leyes locales para rechazar solicitudes, aunque las indicaciones se enviaron desde Australia, donde esas leyes no eran aplicables.

Recomendado

Hassabis dice que las STEM te hacen 10 veces mejor en IA

Es evidente que estamos ante una situación en la que parece haber una censura por delegación extendida que cruza fronteras. Eso me sorprende y me preocupa.

Qué recomienda el informe

Es la primera vez que la junta realiza su propia investigación sobre un tema fuera de la moderación directa de contenidos en redes sociales. Aunque se incluyó uno de los modelos Llama de Meta, el informe afirma que Meta no tuvo “ningún papel en esta investigación”, a pesar de financiar a la junta.

La junta no emitió el tipo de recomendaciones detalladas que suele dar a Meta, pero instó a las empresas de IA a:

• divulgar públicamente y explicar las respuestas a las solicitudes gubernamentales que afectan la salida del modelo
• hacerlo a lo largo del ciclo de vida del modelo, incluyendo entrenamiento, ajuste fino, revisión previa al despliegue y posterior al despliegue
• publicar políticas para gestionar las demandas gubernamentales que entren en conflicto con el derecho internacional de los derechos humanos

Lo que ocurra a continuación es incierto. La Junta de Supervisión no tiene un mecanismo formal para influir en las políticas de las empresas cuyos modelos evaluó. Aun así, Carozza dijo que la junta ve una lección clara de las plataformas sociales para los creadores de sistemas de IA de vanguardia.

Las lecciones que hemos aprendido en el pasado son que hay que estar realmente vigilantes porque, muchas veces, incluso de maneras que no son necesariamente intencionales o directas, las tecnologías pueden tener impactos importantes en la capacidad de las personas para expresarse o comunicarse entre sí. Eso es exactamente lo que hemos encontrado aquí.