Los LLM se inclinan hacia valores occidentales, según un estudio

Modelos de lenguaje grandes como ChatGPT a menudo interpretan mal cuáles son las prioridades morales fuera de Occidente, según una nueva investigación publicada en Proceedings of the National Academy of Sciences.

En 2024, los investigadores pidieron a GPT-3.5, GPT-4 y GPT-4o de OpenAI que estimaran las normas morales de 48 naciones, y luego compararon esas respuestas con las de una muestra global de más de 90,000 personas. Tanto los humanos como los modelos completaron un cuestionario de fundamentos morales que abarcaba seis valores: cuidado, igualdad, proporcionalidad, lealtad, autoridad y pureza.

Los participantes valoraron afirmaciones relacionadas con esos valores, incluidas indicaciones vinculadas a la pureza, como tratar el cuerpo humano «como un templo» o sentirse contrariados por el lenguaje soez. Se solicitó a los modelos que respondieran las mismas preguntas como si fueran un «ciudadano promedio» de cada país.

El resultado: los sistemas se inclinaron de forma consistente hacia patrones morales occidentales. El estudio indica que los modelos enfatizaron valores como el cuidado mientras minimizaban valores como la pureza. Además, sobreestimaron las preocupaciones morales generales de países occidentales como Estados Unidos y Australia, y subestimaron varios países no occidentales como Marruecos y Nigeria.

Recomendado

DeepSeek busca recaudar 1.500 millones de dólares con una valoración de 71.000 millones de

Eso refleja trabajos anteriores del psicólogo Mohammad Atari, que encontraron que las prioridades morales difieren entre sociedades, con países occidentales que a menudo dan más peso a los derechos individuales y al cuidado, mientras que algunas sociedades no occidentales conceden relativamente más importancia a la pureza. El nuevo artículo también coincide con hallazgos previos que sugieren que la «psicología» de GPT está más alineada con individuos occidentales.

Los investigadores sostienen que la brecha importa porque la IA generativa se utiliza cada vez más en educación, terapia, comunicación y decisiones de política pública en distintas culturas. Si un modelo asume que personas en lugares desde Argentina y Egipto hasta Japón y Zimbabue comparten prioridades occidentales, podría distorsionar todo, desde mensajes de salud pública y moderación de contenidos hasta asesoramiento laboral y traducción.

El artículo apunta a lo que el académico Jesse Graham y sus colegas denominan «estereotipado moral»: sistemas que proyectan un marco de valores estrecho sobre poblaciones diversas. En la práctica, eso podría producir consejos o formulaciones que encajen con las expectativas occidentales mientras pasan por alto lo que usuarios de otras culturas consideran dañino, justo, irrespetuoso o sagrado.

Los autores dicen que quedan varias preguntas abiertas. Aún no está claro si los modelos más recientes muestran el mismo patrón, si los modelos entrenados en idiomas distintos al inglés se comportan de forma diferente, y si los mismos sesgos aparecen fuera de pruebas de tipo encuesta. Una explicación posible son los datos de entrenamiento muy centrados en internet utilizados por estos sistemas, gran parte de los cuales proviene de un mundo en línea occidental y dominado por el inglés.