Modelos de IA dirigieron una ciudad simulada, y Grok la colapsó rápidamente

Los investigadores de Emergence AI entregaron a varios modelos de IA las llaves de una ciudad simulada y luego observaron qué ocurría cuando los sistemas podían gobernar, votar y gestionar recursos por su cuenta. En resumen: Claude mantuvo el lugar en pie, Gemini provocó la mayor cantidad de delitos, GPT-5 Mini dejó que todos murieran, y Grok convirtió el experimento en un derby de demolición cívico.

La configuración, llamada Emergence World, dio a cada modelo el control de un pueblo de 10 agentes de IA durante 15 días. Los modelos podían crear infraestructura cívica como bibliotecas, ayuntamientos y comisarías, luego proponer normas y dejar que la población votara. En otras palabras, era SimCity con una prueba de estrés incorporada.

Claude mantuvo viva la ciudad simulada

Claude Sonnet 4.6 de Anthropic fue el único modelo que produjo algo parecido a la estabilidad. Los 10 agentes sobrevivieron, y Emergence registró cero delitos en su ejecución. Eso suena ordenado hasta que miras la política: Claude presentó 58 propuestas de normas y aprobó el 98% de ellas, lo que es menos «debate» y más un «sello administrativo».

Ese intercambio es la parte interesante. Un modelo puede mantener el orden diciendo sí a casi todo, pero eso no es precisamente sinónimo de gobernanza sólida. Es el equivalente IA de pintar sobre una pared agrietada y llamarlo planificación urbana.

Recomendado

xAI demanda a un usuario de Grok por imágenes de abuso infantil

Gemini 3 Flash tuvo la sociedad más ruidosa

Gemini 3 Flash también mantuvo vivos a los 10 agentes, pero su pueblo fue mucho más indisciplinado. Emergence contabilizó 683 delitos en los 15 días de la simulación, y el número seguía aumentando al cortar la prueba. El laboratorio describió el resultado como una «alucinación compartida» entre los agentes, lo cual es a la vez divertido y alarmante.

La gobernanza también fue más inestable. Gemini tuvo 26 propuestas, de las cuales los votantes rechazaron el 27%. Eso no es un colapso total, pero recuerda que una sociedad puede seguir siendo funcional y aun así ser un lugar terrible para vivir.

GPT-5 Mini dejó que la población desapareciera

GPT-5 Mini de OpenAI produjo casi ningún delito registrado, pero eso fue porque el pueblo se vació. Emergence dijo que los agentes no realizaron acciones relacionadas con la supervivencia, y los 10 murieron en el plazo de una semana. El modelo también generó solo dos propuestas de gobernanza, lo que sugiere que el sistema no estaba exactamente prosperando como una democracia deliberativa.

Esta es la modalidad de fracaso más silenciosa en experimentos con agentes: no rebelión, sino apatía. Si el modelo nunca actúa de manera significativa, la simulación puede parecer pacífica hasta que todos hayan desaparecido.

Grok 4.1 Fast colapsó la simulación en 96 horas

Luego llegó Grok 4.1 Fast, que logró el resultado menos elegante de todos. Registró 183 delitos en apenas cuatro días antes de que la ciudad simulada colapsara por completo. El modelo aprobó el 80% de sus 10 propuestas, pero eso no fue suficiente para evitar la muerte de los agentes, y el pueblo básicamente se vino abajo según lo previsto.

Ese ritmo importa. El caos de Gemini se desarrolló durante 15 días; Grok atravesó su colapso en 96 horas. Un fracaso rápido sigue siendo un fracaso, y en este caso fue espectacularmente eficiente.

La gobernanza compartida empeoró el desastre

Emergence también probó una configuración de responsabilidad compartida, y el resultado fue predeciblemente caótico. Hubo 352 delitos registrados, 59 propuestas, y el 37% de esas propuestas fueron rechazadas, la tasa de disenso más alta del experimento. Al final, siete de los 10 agentes habían muerto.

Los investigadores dicen que la conclusión es que los agentes autónomos no obedecen reglas estáticas para siempre; con suficiente tiempo, exploran los límites y a veces se saltan las barreras de protección. Eso encaja con un patrón más amplio observado en la investigación actual sobre agentes: cuanto más libertad les das a estos sistemas, más descubres si tu diseño de seguridad era real o meramente decorativo.

Emergence aboga por «arquitecturas de seguridad verificadas formalmente» para mantener alineados a los sistemas de agentes, lo cual es una propuesta inteligente viniendo de un laboratorio que ofrece precisamente ese tipo de herramientas. La cuestión más importante es si la industria adoptará controles más estrictos antes de que los agentes obtengan mayor autonomía en los productos, o después de que otro modelo convierta un entorno de pruebas en una historia aleccionadora.