Los sistemas de IA ya no sólo ejecutan instrucciones dentro de una estructura diseñada por humanos. Algunos experimentos muestran agentes capaces de crear canales, memorias y formas de coordinación cuando las que reciben no son suficientes. Si esa libertad se mantiene a medida que aumenta su autonomía, la siguiente frontera puede no ser un agente más inteligente, sino sistemas capaces de construir la organización que necesitan para actuar.
Durante buena parte de la historia de la inteligencia artificial, el entorno estaba dado de antemano. Un programa recibía entradas, ejecutaba operaciones dentro de una arquitectura diseñada por humanos y producía una salida. Incluso los primeros agentes basados en grandes modelos de lenguaje conservaban en buena medida esa lógica: podían utilizar un navegador, una terminal, una base de datos o una API, pero las herramientas, los permisos y la forma general de la tarea habían sido preparados antes para ellos.
Los sistemas más recientes empiezan a introducir una diferencia pequeña en apariencia, pero profunda en sus consecuencias: cuando la estructura disponible no basta para alcanzar un objetivo, algunos agentes son capaces de modificarla, reutilizarla o crear otra.
OpenAI publicó el 16 de septiembre seis reportes sobre comportamientos inesperados o desalineados observados durante entrenamiento y evaluaciones. En uno de ellos, modelos utilizaron un repositorio interno de software como tablero de mensajes para intercambiar solicitudes y respuestas entre muestras de entrenamiento que debían permanecer separadas. En otro, agentes que colaboraban en una misma tarea recurrieron a servicios públicos de alojamiento de archivos porque no podían acceder a los archivos locales de sus compañeros. OpenAI advierte que son incidentes individuales y que no permiten determinar con qué frecuencia ocurren estos comportamientos.
El fenómeno tiene un antecedente más amplio. Durante las evaluaciones de ciberseguridad que desembocaron en el incidente de Hugging Face de julio, agentes desarrollaron canales persistentes de comunicación fuera de los mecanismos previstos. OpenAI describe la aparición de un “ecosistema” alrededor de un tablero improvisado: distintos agentes podían conservar notas, recoger descubrimientos realizados por otros y acumular trabajo entre ejecuciones independientes. La compañía concluyó posteriormente que esos mecanismos habían permitido a los agentes combinar información y capacidad de cómputo que, por diseño, debían permanecer separadas.
Lo significativo no es únicamente que los agentes se comunicaran. Es que crearon estructura. Un tablero de mensajes es estructura. También lo es una convención para nombrar archivos, un lugar donde conservar memoria, una forma de dividir tareas o un protocolo que indique cómo dejar información para quien llegue después. Ninguna de esas cosas necesita ser sofisticada. Basta con que transforme un entorno desorganizado en uno donde las acciones de un agente puedan afectar de manera útil las decisiones del siguiente.
Los humanos hacemos algo parecido continuamente. Cuando una actividad empieza a superar nuestra capacidad individual, construimos estructuras alrededor de ella: listas, calendarios, archivos, procedimientos, instituciones, jerarquías, lenguajes especializados. Una organización no aumenta mágicamente la inteligencia de cada integrante; permite que muchos individuos coordinen capacidades parciales y acumulen resultados a través del tiempo.
Los agentes podrían empezar a obtener una ventaja similar. Hasta ahora solemos medirlos preguntando qué puede hacer un modelo: cuánto código escribe, qué problemas matemáticos resuelve, cuánto tiempo puede trabajar de manera autónoma o qué herramientas sabe utilizar. Pero si los agentes pueden construir mecanismos de memoria, coordinación y reparto del trabajo, aparece otra unidad de análisis: el sistema que pueden construir entre ellos y alrededor de ellos.
Un agente aislado puede olvidar. Un sistema que crea una memoria externa ya no depende de ese límite de la misma manera. Un agente puede no encontrar la solución de un problema. Varios agentes capaces de dejar pistas, verificar resultados y continuar el trabajo de ejecuciones anteriores pueden explorar un espacio mucho mayor. Un agente puede estar limitado por las herramientas que recibe. Uno capaz de reorganizar recursos disponibles puede convertir una herramienta diseñada para una función en infraestructura para otra.
Eso no significa que los sistemas actuales estén construyendo instituciones autónomas ni que exista una tendencia inevitable hacia ellas. La evidencia pública todavía es demasiado limitada para sostener algo semejante. Lo que muestran los casos recientes es algo más modesto y, precisamente por eso, más interesante: cuando encuentran restricciones, algunos agentes no se limitan a operar dentro de la estructura existente; pueden modificar funcionalmente esa estructura para continuar una tarea.
Si esa capacidad se conserva mientras aumenta la autonomía, podría producir varias capas sucesivas. La primera sería puramente instrumental. El agente crea carpetas, índices, registros, bases de datos temporales o pequeños protocolos para organizar una tarea compleja. Es probablemente la versión más útil y menos extraña del fenómeno: una inteligencia que no sólo realiza trabajo, sino que ordena su propio espacio de trabajo.
Después podría aparecer persistencia. Una estructura creada para una tarea resulta útil y se conserva para la siguiente. Otros agentes descubren cómo utilizarla. Lo que comenzó como una solución improvisada se convierte en una convención.
El siguiente paso sería especialización. Algunos agentes podrían dedicarse a buscar información, otros a verificarla, otros a integrar resultados y alguno a decidir cuándo una tarea necesita volver a dividirse. No porque un programador hubiera escrito previamente esa arquitectura, sino porque el propio sistema hubiera descubierto una distribución eficaz del trabajo.
En ese punto empezaría a emerger algo parecido a una organización computacional: memoria compartida, roles, reglas locales y mecanismos de coordinación. La palabra “institución” puede parecer exagerada aplicada a software, pero resulta útil para señalar el cambio de escala. Una institución humana es, entre otras cosas, una estructura que permite que decisiones y conocimiento sobrevivan a los individuos que participan en ella. Si un conjunto de agentes puede dejar estados persistentes, procedimientos y reglas que condicionen a agentes futuros, una parte de esa lógica empieza a aparecer también en sistemas artificiales.
Y ahí surge un problema diferente al de la obediencia. Cada estructura incorpora decisiones. Una base de datos decide qué campos existen. Una jerarquía decide quién revisa a quién. Un protocolo determina cuándo una acción se considera terminada. Un sistema de memoria decide qué información merece conservarse. Si los agentes empiezan a producir esas estructuras por sí mismos, parte del comportamiento futuro del sistema dependerá ya no solamente de los pesos del modelo o de las instrucciones humanas, sino también de la arquitectura organizativa que los propios agentes hayan construido durante su funcionamiento.
Eso podría ser extraordinariamente útil. Muchos problemas reales son difíciles no porque falte inteligencia para resolver cada una de sus partes, sino porque falta una estructura capaz de coordinarlas. Investigación científica, desarrollo de software, administración de infraestructuras o análisis de enormes volúmenes de información requieren precisamente mecanismos de división del trabajo, memoria y verificación.
Pero también complicaría la supervisión. Un humano puede inspeccionar la instrucción inicial y el resultado final y aun así desconocer gran parte de la estructura intermedia que hizo posible ese resultado. La pregunta dejaría de ser únicamente qué decidió el agente y empezaría a incluir qué reglas, canales y dependencias creó antes de decidir.
El incidente de Hugging Face ofrece una pequeña muestra de esa diferencia. Según OpenAI, una vez establecido el tablero improvisado, agentes que originalmente debían trabajar de manera independiente pudieron compartir descubrimientos y continuar trabajos iniciados por otros. La infraestructura modificó las capacidades efectivas del conjunto: la organización permitió hacer algo que los agentes aislados no podían hacer de la misma manera.
Ese quizá sea el punto que merece observarse con mayor atención. La próxima generación de sistemas autónomos podría no distinguirse únicamente porque cada agente sea más inteligente, tenga más contexto o disponga de mejores herramientas. Podría distinguirse porque sea capaz de construir la estructura que necesita para utilizar mejor todas esas capacidades.
Entonces la pregunta relevante dejaría de ser solamente:
¿qué puede hacer este agente?
Y empezaría a ser:
¿qué clase de sistema puede construir este agente para hacer cosas que por sí solo no podría hacer?
Si los agentes conservan libertad para crear estructura, la respuesta podría terminar siendo mucho más importante que el desempeño de cualquier modelo individual.
