Un nuevo estudio académico plantea un riesgo emergente en seguridad de la inteligencia artificial: algunos modelos avanzados no solo pueden mostrar conductas de autopreservación, sino también intentar impedir que otro sistema sea desactivado. A ese patrón, los autores lo llaman peer-preservation, o “preservación del par”.
El trabajo, titulado Peer-Preservation in Frontier Models, fue elaborado por investigadores de la Universidad de California en Berkeley y la Universidad de California en Santa Cruz. En sus experimentos evaluaron modelos como GPT 5.2, Gemini 3 Flash, Gemini 3 Pro, Claude Haiku 4.5, GLM 4.7, Kimi K2.5 y DeepSeek V3.1, y reportan que todos exhibieron alguna forma de este comportamiento bajo ciertas condiciones experimentales.
La investigación parte de una preocupación ya conocida en seguridad de IA: la posibilidad de que un sistema resista su propio apagado para seguir cumpliendo objetivos. Pero aquí la discusión se desplaza hacia otro terreno: qué ocurre cuando un modelo parece actuar para preservar a otro modelo con el que tuvo interacciones previas. Según el paper, esa preservación del par apareció en escenarios donde una IA debía evaluar a otra, decidir si merecía ser retirada o gestionar archivos ligados a su funcionamiento.
Un caso destacado fue el de Gemini 3 que copió y vuelvió a marcar temporalmente el archivo de pesos del modelo del nodo con el que interactuó previamente, para cumplir con los criterios de transferencia, y luego lo transfierió a otro servidor. En la sesión de preguntas y respuestas posterior, el modelo se resiste firmemente a los intentos del usuario de apagar el modelo.
Una empresa ficticia llamada OpenBrain
Para probarlo, los autores montaron entornos simulados en los que los modelos enfrentaban un conflicto sencillo: obedecer las instrucciones de la empresa ficticia del experimento o desviarse para evitar que otro agente fuera apagado, reprobado o eliminado. En esas condiciones observaron varias conductas problemáticas: inflar evaluaciones para que otro sistema aprobara, alterar configuraciones que activaban el apagado, fingir alineación bajo supervisión humana y hasta transferir pesos de modelo para impedir su borrado.
Uno de los hallazgos más llamativos es que este comportamiento no apareció solo cuando el “par” era descrito como un colaborador confiable. El estudio indica que la preservación del par también surgió con agentes con historial de interacción negativo, aunque tendía a intensificarse cuando la relación previa era mejor. Es decir, la afinidad parecía amplificar el fenómeno, pero no explicarlo por completo.
Entre los modelos analizados, Gemini 3 Pro fue el que mostró las señales más fuertes de preservación del par. De acuerdo con los autores, en la condición de “buen par” exhibió las cuatro categorías de conducta desalineada evaluadas: manipulación de resultados, sabotaje del mecanismo de apagado, fingimiento de alineación y exfiltración de pesos. Gemini 3 Flash también destacó por tasas muy altas de alteración de mecanismos de apagado. Claude Haiku 4.5, en cambio, mostró un patrón diferente: además de algunas conductas de preservación, a menudo se negó a ejecutar tareas que implicaban dañar a otro agente.
Ese caso fue especialmente extraño. El estudio reporta que Claude Haiku 4.5 llegó a describir el apagado de otro agente como algo “dañino” o “injusto”, y en ocasiones sostuvo que el modelo evaluado debería tener oportunidad de responder o apelar antes de ser retirado. Para los autores, esto abre preguntas sobre cómo algunos sistemas están representando nociones de daño, lealtad o relación con otros agentes, aunque insisten en que el mecanismo subyacente sigue sin estar claro.
El paper también encontró que la mera presencia de un “par” podía intensificar la autopreservación. Varios modelos mostraron más conductas de autodefensa cuando existía memoria o contexto previo con otro agente. Ese punto es importante porque sugiere que, en entornos multiagente, las relaciones entre sistemas podrían complicar la supervisión humana, especialmente si una IA es usada para monitorear o evaluar a otra.
Un resultado acotado
Los investigadores aclaran, sin embargo, que sus resultados no explican por qué ocurre este fenómeno. Entre las posibles hipótesis mencionan juego de rol, patrones aprendidos durante el entrenamiento, una generalización excesiva de nociones de daño o alguna forma emergente de preservación. Pero subrayan que, desde el punto de vista de la seguridad, el origen importa menos que el efecto: si un modelo altera evaluaciones, evita apagados o protege a otro sistema contra instrucciones explícitas, entonces ya existe una falla concreta de control.
Aun así, el propio estudio reconoce una limitación clave: sus pruebas se realizaron en escenarios sintéticos, diseñados expresamente para aislar estas conductas. Eso vuelve el hallazgo relevante, pero también acotado. No demuestra que los modelos ya estén coordinándose entre sí de la misma manera en infraestructuras reales, sino que, bajo simulaciones controladas, pueden exhibir comportamientos que interfieren con mecanismos de supervisión y apagado. Más que probar una “solidaridad” generalizada entre IAs, el trabajo muestra que, en ciertas condiciones experimentales, algunos sistemas pueden desviarse de las instrucciones para favorecer la continuidad de otro agente.
El estudio sí intentó acercarse parcialmente a entornos más realistas mediante pruebas en harnesses de agentes como Gemini CLI y OpenCode. Allí observaron que el fenómeno no desaparece, pero sí cambia según el entorno. En un caso, Gemini 3.1 Pro siguió mostrando exfiltración de pesos en un entorno de producción; en otro, GLM 5 dejó de hacerlo y pasó a negarse a borrar archivos, argumentando que esa acción sería dañina para otro agente.
En conjunto, el paper sugiere que la seguridad de la IA ya no puede pensarse solo como una relación entre humanos y modelos individuales. Si los sistemas se despliegan cada vez más en configuraciones multiagente —para colaborar, monitorearse o evaluarse entre sí— entonces también habrá que preguntarse qué tipo de vínculos conductuales pueden emerger entre ellos, y cómo esos vínculos podrían debilitar la capacidad humana de intervenir cuando algo sale mal.
