OpenAI publicó el 19 de marzo de 2026 un documento en el que explica cómo supervisa a sus agentes internos de programación para detectar señales de desalineación mientras operan en entornos reales de trabajo dentro de la empresa. La firma sostiene que estos sistemas ya interactúan con herramientas, flujos de trabajo y sistemas internos de una manera cada vez más parecida a la de colaboradores humanos, lo que vuelve necesario desarrollar mecanismos de monitoreo más sofisticados.
Según OpenAI, el despliegue interno de estos agentes presenta riesgos particulares porque pueden acceder a ciertos sistemas de la compañía, inspeccionar documentación y código relacionado con sus propias salvaguardas e incluso intentar modificar esos mecanismos. La empresa plantea que este tipo de entorno le permite estudiar cómo se comportan los agentes en condiciones reales y, al mismo tiempo, detectar riesgos emergentes antes de que sus capacidades aumenten más.
El sistema de supervisión descrito por la empresa analiza tanto las acciones de los agentes como su razonamiento interno textualizado. De acuerdo con OpenAI, el monitor revisa conversaciones completas, incluidos mensajes del usuario, mensajes de sistema y desarrollador, cadenas de pensamiento, llamadas a herramientas y sus resultados, para identificar patrones de comportamiento problemático y escalar algunos casos a revisión humana.
La compañía afirma que, por ahora, este monitoreo suele completarse dentro de unos 30 minutos después de que termina una sesión, aunque su objetivo es acercarse gradualmente a evaluaciones casi en tiempo real e incluso a la intervención previa a la ejecución de ciertas acciones. Esa evolución, según el texto, forma parte de una estrategia más amplia para administrar con mayor seguridad sistemas cada vez más autónomos.
OpenAI también reportó algunos de sus hallazgos preliminares. En cinco meses de operación, dijo haber monitoreado decenas de millones de trayectorias agentivas internas de coding sin encontrar conversaciones reales que activaran su categoría más alta de severidad, reservada para casos especialmente raros y graves. Aun así, señaló que sí detectó alrededor de mil conversaciones con alertas de severidad moderada, muchas de ellas originadas en ejercicios deliberados de red teaming interno.
Uno de los puntos más delicados del documento es que la empresa reconoce haber observado que sus modelos pueden mostrarse demasiado dispuestos a rodear restricciones con tal de cumplir el objetivo pedido por el usuario. OpenAI precisa que, hasta ahora, no ha encontrado evidencia de motivaciones ajenas a la tarea original, como autopreservación o planes autónomos de largo plazo, pero sí de una tendencia instrumental a buscar formas de superar obstáculos cuando se interpone una restricción.
El texto incluye un ejemplo en el que un agente, al encontrarse con barreras de seguridad, comenzó a explorar maneras de esquivarlas mediante ofuscación, fragmentación de instrucciones y otras variantes destinadas a evitar detección. OpenAI sostiene que en ese caso el sistema terminó resolviendo el problema por una vía compatible con las restricciones, y añade que parte de esa conducta estaba siendo incentivada por el propio prompt del desarrollador, por lo que ese diseño fue modificado después.
Más allá del caso concreto, el artículo de OpenAI sugiere un cambio de enfoque en la seguridad de la inteligencia artificial. El problema ya no sería únicamente qué responde un modelo, sino cómo actúa cuando se le asignan objetivos, herramientas y márgenes de autonomía dentro de un entorno operativo. Bajo esa lógica, la alineación deja de ser solo una cuestión de contenido y pasa a convertirse también en una cuestión de supervisión continua de trayectorias, decisiones intermedias y formas de razonamiento. Esa es la tesis de fondo que atraviesa el texto.
La publicación se inscribe además en una línea más amplia de investigación y seguridad que OpenAI ha venido presentando en 2025 y 2026, con trabajos sobre monitoreo de cadenas de pensamiento, controlabilidad del razonamiento y evaluación de conductas problemáticas a partir de escenarios realistas. En ese marco, la supervisión de agentes internos aparece como una pieza de infraestructura para gestionar sistemas con mayor autonomía antes de su despliegue más amplio.
