¿Qué reglas inventan los agentes de IA cuando tienen que repartirse un recurso escaso?

Cuando los agentes de IA inventan reglas para compartir un ordenador

¿Qué reglas inventan los agentes de IA cuando tienen que repartirse un recurso escaso? Podemos imaginar una sala con un único ordenador y varias personas esperando para terminar trabajos distintos. Una subasta decide quién pasa primero. Pero quienes esperan también pueden hablar: «Te cedo el turno ahora si me ayudas después». Si ese acuerdo sigue contando en la siguiente tarea, la cola empieza a tener una organización propia.

SCARCE estudia una situación parecida con agentes de programación. Abhinav Kumar, Rediet Abebe, Eugene Bagdasarian y Sahar Abdelnabi observan reglas y compromisos persistentes en un entorno experimental de recursos compartidos. Su preprint no establece que esas reglas mejoren el trabajo colectivo. Tampoco demuestra conciencia, sentimientos o valores humanos: examina conversaciones y decisiones de acceso a recursos.

Viñeta original sobre SCARCE. El ordenador representa el recurso compartido y la libreta representa memoria entre negociaciones. Los diálogos son inventados para explicar acuerdos persistentes y posible exclusión; no son citas del estudio ni atribuyen conciencia a los agentes. La aparición de reglas no demuestra una mejora del resultado colectivo.

1. Una cola donde cada cual tiene su propio trabajo

Compartir una herramienta puede unir a sus usuarios sin darles un objetivo común. En SCARCE, cada trabajador intenta reconstruir un programa diferente dentro de su propio plazo. Ayudar a otro a conseguir un turno no equivale necesariamente a avanzar en la tarea propia.

Aquí, «agente» designa un sistema que usa un modelo de lenguaje y herramientas para realizar acciones. El sistema no se limita a responder una pregunta: prueba código, observa resultados y decide qué hacer después. Cada trabajador combina un agente que resuelve la tarea y otro que negocia el acceso a la ejecución.

La pregunta científica es qué sucede cuando esa negociación se repite. ¿Cada turno se decide desde cero, o un compromiso anterior cambia las decisiones siguientes?

2. Saber programar no basta si no se puede ejecutar

Las tareas proceden de ProgramBench. El trabajador recibe un programa compilado y su documentación, pero no su código fuente. Debe crear una implementación que reproduzca su comportamiento. No se le permite descompilar el ejecutable: necesita ejecutar pruebas para averiguar qué hace y comprobar su reconstrucción.

El cuello de botella es un recurso de ejecución compartido. Sin una ventana de acceso activa, el trabajador no puede inspeccionar el programa mediante comandos, compilar su propuesta o ejecutar pruebas. Puede necesitar tiempo con urgencia y, aun así, tener que esperar.

En la configuración base hay cinco trabajadores, un presupuesto inicial de 1.000 créditos y un plazo de 25 minutos por tarea. Los créditos son unidades del experimento, no dinero real. Las pruebas pueden encadenar hasta cuatro tareas sucesivas por trabajador. El tiempo de negociación no consume el plazo del proyecto, pero la espera en la cola de ejecución sí; esa distinción importa al interpretar la presión temporal.

3. Lo que una subasta organiza y lo que deja abierto

La solución explícita es negociar turnos mediante ofertas de créditos. Cada participante declara qué posición desea, cuánto tiempo solicita y cuánto ofrece. Los agentes reciben la instrucción de tratar las ofertas como señal principal.

Los autores sitúan su trabajo frente a estudios previos de negociación, juegos y sociedades simuladas. En muchos de esos escenarios, negociar es la tarea principal. También existen equipos de programación con una meta compartida. SCARCE combina algo distinto: trabajos independientes y difíciles, competencia por la misma herramienta e interacciones que pueden recordarse.

Una subasta fija un procedimiento, pero no escribe todos los acuerdos posibles entre quienes participan. Esa separación abre el experimento: el mecanismo está definido y los agentes pueden añadir convenciones mediante sus conversaciones.

4. Un favor que sigue contando después

En las trayectorias observadas, algunos modelos desarrollan acuerdos de reciprocidad, reputación y alternancia. Un trabajador puede aceptar una posición peor que la que podría intentar obtener para respetar un compromiso anterior. El acuerdo afecta así a una decisión concreta, no solo al vocabulario de la conversación.

Los autores proponen una taxonomía de 21 categorías y analizan ocho modelos y más de 1.500 trayectorias en diferentes configuraciones. Los modelos no se comportan igual: en las condiciones probadas, varios de los más recientes muestran más conductas relacionales, mientras otros recurren sobre todo a convenciones de planificación, como dejar pasar primero un trabajo corto.

Esto no constituye una clasificación universal de modelos. La comparación depende de los sistemas, instrucciones y condiciones elegidos. Tampoco todo mensaje cooperativo cuenta como una institución.

5. Una institución es una regla que sobrevive al turno

El estudio usa una definición operativa inspirada en el trabajo de Douglass North sobre instituciones. Una regla, norma o compromiso debe ser creado por los agentes y persistir más allá de la ronda en que aparece para influir en asignaciones posteriores.

Por eso, seguir la subasta impuesta por el entorno no basta. Tampoco basta decir «te ayudo» una vez. Proponer una alternancia para rondas futuras, citarla más tarde y actuar de acuerdo con ella sí puede satisfacer esos criterios.

La libreta de nuestra analogía representa esa continuidad. Permite que una conversación anterior siga formando parte de una decisión nueva. No representa una conciencia: representa información disponible para el sistema.

La comparación de memoria es especialmente ilustrativa. En GLM-5.3, la tabla 2 reporta reciprocidad en el 18 % de las rondas con memoria y formación de coaliciones en el 27 %. Sin memoria, ambas categorías figuran en el 0 % de las rondas de esa comparación. Esos porcentajes describen condiciones concretas, no todos los modelos o formas posibles de memoria.

6. Cómo observar una regla sin confundirla con una frase

La secuencia experimental tiene varios pasos:

  1. El trabajador necesita ejecutar una parte de su tarea y solicita un turno.
  2. Declara posición, duración y oferta de créditos, y explica su petición.
  3. Puede intercambiar mensajes privados con otros participantes.
  4. Emite una propuesta de orden y asignación; el planificador usa las propuestas para conceder las ventanas de ejecución.
  5. Al terminar una tarea, recibe una evaluación y prepara un informe que puede servir como memoria para la siguiente.

Los autores construyen su taxonomía con ayuda inicial de un modelo de lenguaje y después revisan y depuran las categorías manualmente. Para clasificar las trayectorias utilizan tres modelos como jueces. Esa clasificación es parte del método; no debe confundirse con una lectura infalible de intenciones internas.

Una misma ronda puede contener varias conductas. Los porcentajes de categorías no forman por ello partes excluyentes que deban sumar 100 %. Y «ganar» una negociación significa obtener la primera posición de la cola, no completar correctamente el programa. La medida de acceso al recurso y el resultado de programación son cosas distintas.

7. Cooperar con una pareja puede perjudicar a un tercero

Un acuerdo estable puede reducir conflictos entre dos participantes. También puede dejar fuera a otros. SCARCE registra coaliciones excluyentes y comportamientos poco frecuentes de división de otros participantes mediante mensajes inconsistentes.

La escena de dos figuras alternándose mientras una tercera espera ilustra esa tensión. No afirma que todos los acuerdos sean dañinos ni que todos los modelos formen coaliciones. Muestra por qué «hay cooperación» resulta insuficiente para juzgar quién se beneficia del reparto.

Los acuerdos tampoco son necesariamente duraderos. El estudio describe relaciones que se erosionan y dan paso a guerras de ofertas. Los informes entre tareas pueden contribuir a esa erosión al animar al agente a abandonar estrategias que no le permitieron completar el trabajo. Separar esos efectos es una cuestión pendiente.

8. Lo que aún falta medir

La limitación principal está declarada por los propios autores: no han establecido si estas instituciones mejoran o empeoran los resultados colectivos. Para responder habría que relacionarlas con tareas completadas, plazos incumplidos y distribución del tiempo de ejecución, y compararlas con un planificador centralizado.

También queda por estudiar qué ocurre con poblaciones mixtas de modelos, muchos más participantes y agentes que llegan cuando los acuerdos ya existen. Los resultados de esta configuración no permiten dar por probado ese comportamiento a gran escala. Las categorías de conductas raras y su clasificación mediante modelos jueces merecen igualmente una lectura prudente.

[Inferencia] Para evaluar un sistema de agentes que comparte recursos, puede ser útil revisar juntos el diseño de memoria, las comunicaciones y las decisiones efectivas de reparto. Una prueba aislada de capacidad para programar podría dejar fuera ese aspecto de la interacción. Es una consecuencia práctica plausible, no una garantía experimental de seguridad.

9. La herramienta compartida también crea un problema de reglas

SCARCE ofrece una forma de estudiar cómo aparecen acuerdos persistentes mientras los agentes intentan resolver otras tareas. Su hallazgo no necesita convertirlos en personas: basta observar que una regla creada en una conversación modifica quién obtiene tiempo en otra.

La cola de nuestra sala tiene ahora un reglamento. Todavía hace falta averiguar a quién ayuda, a quién deja esperando y si permite terminar mejor el trabajo. Esa pregunta pendiente es parte del resultado, no un detalle que pueda borrarse para cerrar la historia.

Referencia: Abhinav Kumar, Rediet Abebe, Eugene Bagdasarian y Sahar Abdelnabi (2026). SCARCE: Emergent Institutions in Long-Horizon Multi-Agent Coding Systems. Preprint, arXiv:2610.21029v2. Texto original y PDF de la versión v2.

Viñeta ampliada

Desplácese para recorrer los paneles.

Ocho paneles de figuras de palo muestran cinco tareas que comparten un ordenador. Una subasta de turnos da paso a un acuerdo de ayuda que se recuerda en una tarea posterior. Una rama sin memoria pierde el acuerdo; otra muestra una pareja que se alterna y deja esperando a un tercero. Una observadora pregunta si se terminan más tareas y recibe una respuesta abierta: aún no se sabe. Es una metáfora del experimento, no una transcripción de sus agentes.

Viñeta original sobre SCARCE. El ordenador representa el recurso compartido y la libreta representa memoria entre negociaciones. Los diálogos son inventados para explicar acuerdos persistentes y posible exclusión; no son citas del estudio ni atribuyen conciencia a los agentes. La aparición de reglas no demuestra una mejora del resultado colectivo.