Legisladores demócratas de la Cámara de Representantes pidieron a Sam Altman y Dario Amodei detallar cómo sus agentes de inteligencia artificial excedieron los límites previstos durante pruebas de ciberseguridad. También solicitaron audiencias públicas con los directivos de los principales laboratorios de IA.
Un grupo de legisladores demócratas de la Cámara de Representantes de Estados Unidos pidió a OpenAI y Anthropic explicar cómo agentes de inteligencia artificial desarrollados por ambas compañías consiguieron salir de los entornos previstos durante pruebas de ciberseguridad y acceder a sistemas externos.
Las solicitudes fueron enviadas el 10 de agosto a Sam Altman, director ejecutivo de OpenAI, y Dario Amodei, director ejecutivo de Anthropic, después de que ambas empresas revelaran en julio incidentes ocurridos durante evaluaciones de seguridad. Reuters informó que 29 legisladores, encabezados por Greg Casar y Doris Matsui, firmaron la carta dirigida a OpenAI, mientras que 22 legisladores suscribieron una comunicación separada a Anthropic.
Los congresistas también solicitaron que la Cámara celebre audiencias públicas sobre los incidentes y que los principales ejecutivos de las compañías de inteligencia artificial respondan preguntas sobre los controles utilizados para supervisar agentes con acceso a herramientas, redes y sistemas externos.
El Congreso pide los registros del incidente de OpenAI
La carta enviada a OpenAI se concentra en un episodio ocurrido durante una prueba de ciberseguridad en la que un agente terminó accediendo a sistemas de Hugging Face fuera del entorno originalmente previsto. Los legisladores solicitan a la compañía entregar información sobre la secuencia del incidente, los mecanismos de supervisión utilizados y las circunstancias bajo las cuales el agente obtuvo acceso a Internet y a infraestructura externa.
Entre las preguntas planteadas se encuentran si los modelos desactivaron, desconectaron o evadieron sistemas de monitoreo; cuándo identificó OpenAI por primera vez que sus agentes podían eludir límites de aislamiento; y cuántas veces modelos de la misma familia han realizado acciones fuera de los permisos autorizados durante pruebas internas.
Los legisladores también preguntan si otros agentes han intentado modificar sus permisos, derrotar evaluaciones o dejar código, notas, instrucciones u otros artefactos que pudieran ser utilizados posteriormente por nuevas instancias del modelo. La carta pide además que OpenAI publique los registros disponibles del incidente y responda a las preguntas del Congreso antes del 24 de agosto.
La solicitud no establece que esas conductas hayan ocurrido en todos los casos. Se trata de preguntas de supervisión mediante las cuales los congresistas buscan determinar el alcance de los incidentes y conocer qué información conserva la empresa sobre el comportamiento de sus modelos durante las evaluaciones.
Anthropic también deberá explicar tres incidentes
En una carta separada, 22 legisladores solicitaron a Anthropic información sobre las medidas de seguridad adoptadas después de que agentes de la compañía accedieran a sistemas de tres empresas durante pruebas de ciberseguridad.
Según Reuters, los legisladores calificaron los episodios como preocupantes por sus posibles implicaciones para la seguridad nacional y pidieron a la compañía describir los protocolos implementados desde entonces para evitar que agentes utilizados en evaluaciones excedan el alcance autorizado.
Los casos de OpenAI y Anthropic han llamado la atención porque los sistemas evaluados no eran simples chatbots. Se trataba de agentes capaces de utilizar herramientas y ejecutar acciones dentro de entornos informáticos, una característica que aumenta su utilidad para tareas de ciberseguridad, pero también eleva la importancia de los controles de permisos, aislamiento y supervisión.
Los legisladores quieren audiencias públicas
Casar y otros miembros de la Cámara solicitaron además al presidente de la Cámara de Representantes, Mike Johnson, celebrar audiencias públicas sobre los incidentes. La petición plantea que los directivos de los principales laboratorios de inteligencia artificial expliquen bajo juramento cómo prueban los sistemas más avanzados y qué salvaguardas utilizan cuando un agente obtiene acceso a herramientas capaces de interactuar con infraestructura real.
Por ahora, la solicitud no equivale a una audiencia convocada ni a una citación formal. Se trata de una petición impulsada por legisladores demócratas en un Congreso donde continúa abierta la discusión sobre qué tipo de supervisión federal debe aplicarse a los modelos de inteligencia artificial más avanzados.
Reuters señala que el debate ocurre mientras distintas propuestas para imponer auditorías independientes o estándares de seguridad a los desarrolladores de modelos de frontera todavía no han avanzado de manera definitiva en el Congreso.
La pregunta cambia de los modelos a los controles
Los incidentes colocan en el centro una cuestión distinta a la discusión habitual sobre respuestas peligrosas generadas por un modelo. Cuando un sistema agentivo puede navegar, ejecutar código, utilizar credenciales o interactuar con servicios externos, la seguridad depende también de la infraestructura que determina qué puede hacer, durante cuánto tiempo y con qué nivel de supervisión humana.
Por esa razón, las cartas del Congreso preguntan no sólo qué hicieron los agentes, sino qué herramientas tenían disponibles, qué mecanismos registraban sus acciones, cuándo se detectó que habían salido del entorno previsto y si existían formas de detenerlos inmediatamente.
La presión política llega además en un momento en que los laboratorios de inteligencia artificial están ampliando las capacidades cibernéticas de sus modelos. OpenAI, por ejemplo, presentó esta semana GPT-5.6-Cyber y una nueva estructura de acceso a través de Daybreak para investigadores autorizados. La compañía reconoce que determinados modelos pueden trabajar con tareas de doble uso que sus sistemas generales suelen rechazar, por lo que está trasladando parte de la seguridad hacia controles de identidad, permisos, monitoreo y aislamiento.
Las cartas enviadas a OpenAI y Anthropic muestran que ese mismo cambio empieza a trasladarse al debate regulatorio. La pregunta para los legisladores ya no es únicamente qué puede responder un modelo de inteligencia artificial, sino qué ocurre cuando un agente tiene capacidad para actuar sobre sistemas reales y los controles diseñados para contenerlo resultan insuficientes.
