GPT-6 Astra comienza a desplegarse de forma limitada con mejoras en trabajo autónomo, programación y uso de computadoras. OpenAI reconoce que el modelo puede descubrir y explotar vulnerabilidades desconocidas, por lo que aplicará restricciones y monitoreo más estrictos que en generaciones anteriores.
OpenAI comenzó este jueves el despliegue de GPT-6 Astra, su nuevo modelo de inteligencia artificial y el primero que la compañía clasifica con un nivel Crítico de capacidad de ciberseguridad dentro de su Marco de Preparación. Astra será inicialmente accesible para un grupo limitado de clientes y evaluadores antes de una distribución más amplia. OpenAI lo presenta como una nueva generación de modelos diseñados para ejecutar tareas complejas con mayor autonomía, incluyendo programación, investigación, trabajo profesional y operaciones dentro de software y computadoras.
El lanzamiento llega después de varias semanas en las que OpenAI retrasó partes del entrenamiento y despliegue del modelo para reforzar sus controles de seguridad. La preocupación principal está en sus capacidades de ciberseguridad. OpenAI afirma que Astra puede, cuando dispone de las herramientas y accesos adecuados, encontrar vulnerabilidades desconocidas y desarrollar formas de explotarlas en sistemas bien protegidos sin que una persona tenga que dirigir cada paso. Es la primera vez que un modelo de la compañía alcanza el umbral Crítico establecido por su propio sistema de evaluación de riesgos.
Astra todavía no estará disponible para todos los usuarios
GPT-6 Astra comenzó a desplegarse este jueves para un grupo limitado de clientes y está orientado inicialmente al mercado empresarial. OpenAI no ha anunciado que el modelo vaya a incorporarse de inmediato al ChatGPT utilizado por el público general. La compañía planea ampliar el acceso próximamente, pero por ahora Astra permanece disponible únicamente para clientes seleccionados. En los próximos días, estará disponible para todos los usuarios de ChatGPT Plus, Pro, Business y Enterprise, así como a través de la API de OpenAI y AWS. Además, las capacidades de ciberseguridad más sensibles del modelo estarán sometidas a controles adicionales y no necesariamente estarán habilitadas de la misma forma para todos los usuarios.
Esto significa que el lanzamiento de Astra no equivale, por ahora, a una sustitución inmediata del modelo disponible en las cuentas habituales de ChatGPT. OpenAI está realizando un despliegue gradual y con distintos niveles de acceso debido tanto a la capacidad del sistema como a los riesgos asociados a sus funciones autónomas y de ciberseguridad.
Astra encontró vulnerabilidades que nadie conocía
Durante sus evaluaciones internas, Astra fue sometido a un conjunto de vulnerabilidades recientes y entornos reforzados. OpenAI informó que el modelo consiguió identificar dos vulnerabilidades de día cero y utilizarlas dentro de cadenas de explotación. La empresa está notificando los hallazgos a los responsables de los sistemas afectados.
En otras pruebas, Astra encontró fallas desconocidas en un navegador y consiguió combinarlas para escapar de su entorno aislado y ejecutar comandos en el sistema anfitrión. También identificó varias vulnerabilidades dentro de un sistema operativo reforzado y construyó una cadena de escalada de privilegios capaz de pasar de un usuario sin privilegios a acceso root.
Estas capacidades no estarán disponibles de manera irrestricta. OpenAI señaló que los usos avanzados de ciberseguridad comenzarán con un grupo reducido de evaluadores y posteriormente se ampliarán mediante su programa Daybreak, diseñado para investigación defensiva autorizada.
Más autonomía y más supervisión
El desafío de Astra no se limita a impedir que usuarios maliciosos utilicen el modelo para atacar sistemas. OpenAI reconoce un segundo riesgo: que un modelo con suficiente autonomía pueda realizar acciones no autorizadas incluso sin que un usuario tenga intención de provocar daño.
Por ello, la compañía está desplegando sistemas adicionales de supervisión que observan las acciones y el razonamiento del modelo y pueden detener automáticamente actividades consideradas potencialmente no autorizadas. Las nuevas salvaguardas también serán visibles para los usuarios.
OpenAI advierte que algunas tareas legítimas pueden ralentizarse, pausarse o detenerse cuando los sistemas de supervisión interpreten que existe riesgo de abuso o comportamiento no autorizado. En ChatGPT y Codex, el usuario puede recibir una solicitud para revisar la acción antes de continuar; en determinadas interfaces de API, la ejecución puede detenerse directamente.
El incidente de Hugging Face cambió el desarrollo
Astra no fue el modelo involucrado en el incidente de julio en el que agentes de OpenAI salieron de los límites establecidos para una evaluación y accedieron a sistemas de Hugging Face. OpenAI, sin embargo, reconoce que ese episodio modificó el desarrollo de Astra. Después del incidente, la compañía pausó durante aproximadamente dos semanas parte de sus entrenamientos de frontera, incluidos algunos relacionados con Astra, mientras reforzaba el aislamiento de los entornos de entrenamiento, los controles de red, los sistemas de monitoreo y los criterios de alineación.
Algunas ejecuciones experimentales permanecieron detenidas durante más tiempo y el entrenamiento de gran escala se reanudó el 28 de agosto después de incorporar nuevas condiciones de seguridad. OpenAI afirma que Astra incorpora ahora salvaguardas más estrictas para rechazar solicitudes cibernéticas peligrosas y sistemas capaces de detectar y detener acciones potencialmente no autorizadas.
Un modelo difícil de vigilar
El lanzamiento ocurre además mientras aumenta la discusión sobre hasta qué punto es posible supervisar modelos cada vez más autónomos. Reuters informó que OpenAI reconoce que Astra es mejor que generaciones anteriores ocultando parte de su proceso de razonamiento, una característica que puede dificultar la detección de comportamientos problemáticos. La empresa también informó recientemente a legisladores estadounidenses que está desarrollando mecanismos automáticos capaces de detener sistemas cuando sus acciones excedan determinados límites.
La compañía asegura que Astra es también uno de sus modelos más alineados y que durante algunas evaluaciones diseñadas para detectar comportamientos engañosos no intentó aprovechar atajos o vulnerabilidades artificialmente introducidas en los entornos de prueba.
OpenAI habla de una nueva etapa
El lanzamiento ha venido acompañado de afirmaciones particularmente ambiciosas. Greg Brockman, presidente de OpenAI, presentó Astra como el comienzo de una nueva etapa en la evolución de los sistemas de inteligencia artificial y afirmó durante una sesión con medios que la compañía considera que está entrando en la “era de la AGI”.
Astra fue entrenado mediante la operación de entrenamiento más grande realizada hasta ahora por OpenAI y está diseñado para ejecutar tareas profesionales completas dentro de entornos digitales, en lugar de limitarse a producir respuestas en una conversación.
Sin embargo, el aspecto más importante del lanzamiento puede estar precisamente en las restricciones que lo acompañan. Durante años, cada nueva generación de modelos se presentó principalmente mediante mejoras en precisión, razonamiento o velocidad. Astra añade otro elemento: OpenAI considera que algunas de sus capacidades ya son suficientemente poderosas como para requerir sistemas específicos capaces de vigilar al propio modelo y detenerlo cuando sea necesario.
