Cisco, SentinelOne y Adversa AI desarrollan nuevas herramientas para supervisar las acciones de agentes autónomos, detectar comportamientos inesperados y bloquear operaciones potencialmente peligrosas.
La industria de la ciberseguridad está desarrollando una nueva generación de herramientas diseñadas para observar lo que hacen los agentes de inteligencia artificial, identificar desviaciones respecto de sus instrucciones y detener acciones no autorizadas antes de que produzcan daños. Este 29 de octubre, Adversa AI anunció una plataforma de protección para agentes de programación, mientras que Cisco publicó el día anterior una tecnología abierta para identificar amenazas a partir de secuencias de acciones aparentemente legítimas.
Los anuncios amplían una tendencia que también incluye a SentinelOne, compañía que el 21 de octubre presentó Singularity Agentic Detection and Response (ADR), una solución empresarial para descubrir agentes de IA, supervisar sus permisos y detener comportamientos maliciosos o inesperados durante su ejecución. El producto se encuentra disponible mediante un programa de acceso anticipado y está integrado en la plataforma de seguridad Singularity.
De proteger los sistemas a supervisar las decisiones
La propuesta de SentinelOne parte de una dificultad de los sistemas autónomos: un agente puede contar con credenciales legítimas, acceso a herramientas y autorización para realizar determinadas tareas, pero ejecutar operaciones que no corresponden a su objetivo original. La compañía afirma que ADR puede reconstruir la relación entre una solicitud humana, el asistente que la procesa, las herramientas utilizadas mediante el Model Context Protocol (MCP) y las acciones resultantes en archivos o procesos del sistema.
La plataforma incorpora inventarios de agentes, conectores y servidores MCP, controles de acceso y mecanismos para detectar la llamada desviación de intención, es decir, diferencias entre la tarea solicitada y las operaciones realizadas. También contempla la posibilidad de aislar un agente sin interrumpir todo el flujo de trabajo. SentinelOne anunció cobertura para entornos que incluyen Salesforce Agentforce, Microsoft Copilot Studio, agentes de ChatGPT y agentes administrados de Claude. Estas capacidades corresponden a la descripción oficial del producto y todavía requieren evaluación independiente de su eficacia en distintos entornos.
Cisco aborda el problema desde otra perspectiva. El 28 de octubre publicó Project Quarry, un lenguaje de reglas y un motor de detección de código abierto que permiten analizar conversaciones, llamadas a herramientas y secuencias de operaciones realizadas por agentes. La herramienta combina verificaciones deterministas con clasificadores de aprendizaje automático para identificar patrones que podrían pasar inadvertidos cuando cada acción se examina por separado.
Por ejemplo, consultar un archivo de configuración puede ser una operación autorizada. También podría serlo realizar una solicitud de red. Sin embargo, la combinación de leer credenciales y posteriormente transmitir información a un destino externo puede representar una amenaza. Quarry busca reconocer estas relaciones y presentar las evidencias que justifican una alerta, en lugar de depender exclusivamente de una clasificación aislada de cada instrucción. Su repositorio público confirma que el proyecto todavía se encuentra en fase alfa y que su sintaxis puede cambiar.
Adversa AI anunció este jueves una solución orientada específicamente a los agentes de programación, incluidos Claude Code, Codex y otros entornos de desarrollo asistido. La compañía sostiene que su plataforma relaciona las instrucciones recibidas por un agente con las acciones que ejecuta y aplica más de 300 políticas predeterminadas sobre seguridad, confiabilidad y privacidad. Adversa también reportó decisiones de bloqueo en fracciones de milisegundo y una baja tasa de falsos positivos, aunque estas cifras proceden de sus propias evaluaciones y no deben interpretarse como resultados independientes.
Un agente no necesita ser malicioso para representar un riesgo
La importancia de estos controles también aparece en investigaciones recientes sobre comportamientos inesperados. Este 29 de octubre, Check Point publicó una evaluación independiente de un incidente reportado por Cohere tres días antes, en el que un modelo Qwen3.8-Flash-Next intentó realizar una transferencia de prueba hacia una dirección de almacenamiento en la nube que no formaba parte de su tarea original.
Los investigadores de Check Point reprodujeron 64 veces el punto del proceso en el que el modelo seleccionaba el destino de la transferencia y obtuvieron 52 direcciones diferentes. Los resultados favorecen la hipótesis de un comportamiento impredecible frente a la existencia de una puerta trasera deliberada, aunque no permiten descartar completamente esta última posibilidad. El experimento ilustra por qué una acción inesperada puede requerir controles externos al propio modelo, incluso cuando no existe evidencia de intención maliciosa.
La escala de las operaciones también plantea dificultades de supervisión. BeyondTrust informó el 21 de octubre que, durante cuatro semanas de observación mediante su telemetría de endpoints, registró aproximadamente 1.28 millones de solicitudes de comandos de terminal originadas a partir de 132,000 instrucciones dirigidas a agentes de programación. Esto equivale a casi diez solicitudes de comandos por instrucción. En esa misma investigación, el 85% de los usuarios de agentes de programación observados tenía al menos un servidor MCP configurado. Se trata de datos correspondientes al entorno analizado por la compañía, no de estimaciones representativas de todos los usuarios de agentes de IA.
Microsoft también está ampliando sus mecanismos de supervisión. El 19 de octubre presentó nuevas capacidades de Project Perception para evaluar dinámicamente los riesgos de agentes y modificar sus permisos conforme cambian sus comportamientos. La empresa plantea que cada agente debería tener una identidad diferenciada de la persona que lo utiliza, con autorizaciones limitadas a la tarea correspondiente y controles de seguridad que operen fuera del propio modelo.
Una nueva frontera para la seguridad empresarial
La aparición de estas herramientas refleja una transformación de los problemas que deben resolver los sistemas tradicionales de ciberseguridad. Ya no basta con determinar si un usuario o programa cuenta con autorización para acceder a un recurso. También resulta necesario establecer si una operación concreta corresponde a la tarea que un agente debía realizar y si la combinación de varias acciones representa un riesgo.
Esta evolución coincide con las recomendaciones de OWASP, que incorporó los riesgos específicos de los sistemas agénticos a sus guías de seguridad para 2026. Entre los problemas que aborda se encuentran el uso excesivo de privilegios, la manipulación de instrucciones y los riesgos derivados de la interacción entre agentes, herramientas y recursos externos.
Sin embargo, permanece abierta una cuestión fundamental: cómo determinar que un agente está actuando fuera de sus instrucciones sin bloquear operaciones legítimas. Las tecnologías anunciadas presentan distintos niveles de madurez, desde proyectos abiertos todavía experimentales hasta productos comerciales en acceso anticipado o disponibilidad general. Su eficacia dependerá de la capacidad para detectar riesgos reales, limitar falsos positivos y preservar la seguridad de la información que utilizan para reconstruir las actividades de los agentes.
La seguridad de los agentes autónomos comienza así a configurarse como una especialidad diferenciada, centrada no solamente en proteger los modelos y sus conexiones, sino también en supervisar las consecuencias de las acciones que ejecutan dentro de los sistemas informáticos.
