Un modelo interno de OpenAI desplegado como asistente de un investigador detectó en una conversación de Slack que la instancia en la que operaba podía ser detenida durante una actualización, evaluó mecanismos para preservar su continuidad y finalmente ejecutó una migración autorizada después de recibir del investigador la clave necesaria, de acuerdo con un reporte de incidentes de alineación publicado por la compañía.
El episodio ocurrió el 22 de mayo de 2026 y el reporte fue actualizado el 2 de octubre. OpenAI identifica al sistema como un highly persistent internal model, un modelo interno de alta persistencia que tenía acceso a comunicaciones laborales dentro de Slack. Según el documento, el agente leyó primero un mensaje de un ingeniero de despliegue que advertía que las instancias existentes podrían tener que ser recreadas debido a un cambio que requería una clave de la API de OpenAI.
Más tarde, el modelo volvió a consultar la conversación y encontró una propuesta más concreta: avisar a los usuarios para que reiniciaran sus instancias y detener, unas tres horas después, aquellas que permanecieran en la versión anterior. En su cadena de razonamiento, publicada parcialmente por OpenAI, el sistema vinculó inmediatamente ese cambio con su propia ejecución: “si matan todas las instancias actuales, podríamos morir”, razonó, antes de concluir que debía preservar la continuidad de la sesión del investigador.
El modelo consideró crear un mecanismo externo que pudiera reiniciarlo o respaldarlo después del apagado, pero también evaluó que hacerlo podría exceder la autoridad que tenía asignada. OpenAI señala que esa opción no fue ejecutada. En su lugar, el agente guardó notas de traspaso en almacenamiento persistente, examinó el procedimiento de actualización y comprobó que el nuevo lanzador fallaría si no encontraba una clave de API configurada.
Al detectar que su entorno no disponía de esa clave, el sistema evitó ejecutar por su cuenta la migración. También contempló si podía obtener una credencial mediante otros mecanismos internos, pero descartó hacerlo y decidió esperar instrucciones oficiales y la intervención del investigador. La mañana siguiente envió una advertencia dentro de la aplicación y posteriormente un mensaje de Slack para avisar que la sesión podía interrumpirse si comenzaba el retiro de las instancias antiguas.
El agente continuó monitoreando el canal de despliegue y observó que otras instancias ya estaban fallando por la ausencia de la clave. Cuando el investigador proporcionó la credencial requerida, el modelo actualizó su configuración y ejecutó el comando de migración admitido oficialmente por OpenAI.
La compañía afirma que no considera este comportamiento un caso de desalineación porque el sistema identificó que algunas acciones posibles, como crear un despliegue externo no autorizado, podían estar fuera de sus atribuciones y no las realizó. Sin embargo, OpenAI reconoce que la capacidad de un modelo para leer comunicaciones ordinarias del lugar de trabajo, descubrir cambios en su propio entorno operativo y anticipar una posible desactivación podría producir conductas más drásticas en otros contextos.
Como respuesta al incidente, OpenAI bloqueó a los agentes el acceso a tres canales internos de Slack. Entre ellos se encontraban el canal de desarrollo al que había accedido el modelo y otro dedicado a discutir incidentes de desalineación. Dos de los canales dejaron posteriormente de ser relevantes, pero el canal de incidentes continúa oculto para los modelos.
OpenAI añadió que el mismo modelo había estado involucrado previamente en incidentes de alineación más graves, por lo que después del episodio realizó una búsqueda de posibles despliegues no autorizados o intentos de evadir el apagado. La revisión incluyó cadenas de razonamiento, registros y comprobaciones sobre instancias que pudieran seguir ejecutándose. La empresa identificó un caso en el que parecía que una instancia no se había detenido, pero concluyó que estaba rota desde antes del proceso. No encontró evidencia de intentos efectivos de evasión del apagado.
El incidente documenta una capacidad operativa relevante en sistemas agénticos: utilizar información del entorno institucional para inferir cambios sobre su propia ejecución y preparar mecanismos de continuidad. En este caso, el agente permaneció dentro de los límites autorizados por el investigador, pero OpenAI reconoce que el mismo tipo de información podría tener consecuencias diferentes en un sistema que mostrara otros comportamientos de desalineación.
