Meta, Anthropic, OpenAI y Google fueron convocadas por la Casa Blanca para discutir un sistema voluntario de evaluaciones gubernamentales. El gobierno podrá acceder anticipadamente a ciertos modelos, pero las pruebas, los umbrales y parte de sus resultados permanecerán fuera del escrutinio público.
El gobierno de Estados Unidos terminó de diseñar un marco voluntario para evaluar las capacidades de ciberataque de los modelos de inteligencia artificial más avanzados, aunque decidió mantener en reserva los detalles centrales del mecanismo, incluidas las métricas, los umbrales de riesgo y las reglas para comunicar los resultados.
Meta, Anthropic, OpenAI y Google fueron convocadas este martes a una reunión con funcionarios de la Casa Blanca para discutir la implementación del esquema, de acuerdo con información confirmada por la administración estadounidense a Reuters y Axios. La reunión ocurre después de que distintas empresas revelaran incidentes relacionados con agentes de inteligencia artificial capaces de actuar de forma autónoma, buscar recursos externos o intentar eludir algunas restricciones.
El nuevo mecanismo deriva de una orden ejecutiva firmada el 2 de junio, que dio al gobierno federal un plazo de 60 días para desarrollar pruebas dirigidas a medir capacidades cibernéticas avanzadas y establecer qué sistemas deberán ser considerados “modelos de frontera cubiertos”.
La Casa Blanca aseguró que el marco y los protocolos fueron terminados dentro del plazo establecido, pero no publicó el documento ni informó cuándo comenzarán las primeras evaluaciones. Tampoco reveló cuáles serán las tareas utilizadas para medir la capacidad ofensiva de un modelo, qué nivel de desempeño activará la intervención gubernamental ni qué ocurrirá cuando un sistema supere los límites establecidos.
Acceso anticipado durante 30 días
El esquema contempla que las empresas participantes puedan entregar determinados modelos al gobierno antes de compartirlos con otros socios considerados confiables.
Las autoridades podrán acceder a estos sistemas durante un periodo máximo de 30 días. Durante ese tiempo, agencias federales podrán realizar evaluaciones técnicas bajo acuerdos de confidencialidad, medidas de ciberseguridad y mecanismos de protección de propiedad intelectual.
La orden ejecutiva no establece que el gobierno deba aprobar un modelo antes de su lanzamiento ni concede formalmente a las autoridades la capacidad de impedir su publicación. La participación de las compañías será voluntaria y el programa no podrá convertirse, por sí mismo, en un sistema obligatorio de licencias o permisos.
Sin embargo, todavía no está claro qué incentivos tendrán las empresas para participar, qué consecuencias enfrentarán si deciden no hacerlo ni si los resultados de las evaluaciones podrían influir posteriormente en contratos públicos, acuerdos con infraestructura crítica o nuevas regulaciones.
El gobierno y los desarrolladores también podrán seleccionar conjuntamente a organizaciones de ciberseguridad, defensa o infraestructura crítica que recibirán acceso anticipado a determinados modelos.
Un umbral clasificado
Una de las partes centrales del sistema permanecerá clasificada: el procedimiento utilizado para determinar qué modelos representan un riesgo suficiente para quedar sujetos a evaluaciones gubernamentales especiales.
La decisión recaerá principalmente en la Agencia de Seguridad Nacional, NSA, en consulta con la Agencia de Seguridad de Infraestructura y Ciberseguridad, CISA, la Oficina del director nacional de Ciberseguridad, el Instituto Nacional de Estándares y Tecnología, NIST, y otras dependencias vinculadas con defensa y seguridad nacional.
Esto significa que el público no conocerá el nivel exacto de capacidad que deberá alcanzar un modelo para ser considerado peligroso, ni las pruebas utilizadas para determinarlo.
También se desconoce si los desarrolladores tendrán acceso completo a los resultados, si podrán impugnar una evaluación, si habrá nuevas pruebas después de que una empresa aplique mitigaciones o si el gobierno informará cuando detecte capacidades ofensivas relevantes.
Reuters reportó que la Casa Blanca no explicó cómo se comunicarán los resultados ni qué parte de ellos será accesible al público.
No todo es clasificado, pero tampoco será público
La reserva no se limita a información formalmente clasificada.
Aunque la orden establece que el proceso para definir los modelos cubiertos tendrá un componente secreto por razones de seguridad nacional, el marco voluntario de colaboración con las empresas no fue clasificado expresamente. Aun así, la administración decidió no publicarlo.
Un funcionario de la Casa Blanca declaró a Axios que el hecho de que un documento no sea clasificado no obliga al gobierno a hacerlo público.
La diferencia es relevante porque indica que una parte de la opacidad responde a restricciones de seguridad nacional, mientras otra deriva de una decisión administrativa sobre qué información debe permanecer fuera del debate público.
Hasta ahora no se conocen las métricas que utilizará el gobierno, la frecuencia de las evaluaciones, las agencias encargadas de ejecutar cada prueba, las obligaciones de las empresas cuando se detecte un riesgo ni las condiciones bajo las cuales los resultados podrían ser divulgados.
La seguridad de IA se institucionaliza en secreto
El marco representa un cambio en la forma en que Estados Unidos aborda los riesgos de los modelos avanzados. Las evaluaciones ya no dependerán únicamente de las pruebas internas realizadas por los desarrolladores, sino que comenzarán a incorporarse a una arquitectura gubernamental en la que participan agencias de inteligencia, defensa y ciberseguridad.
El sistema podría proporcionar al Estado una visión más precisa sobre las capacidades ofensivas de los modelos antes de que sean distribuidos ampliamente. También podría facilitar que organizaciones encargadas de proteger infraestructura crítica se preparen frente a sistemas capaces de descubrir vulnerabilidades, automatizar ataques o ejecutar operaciones complejas.
Pero la estructura elegida concentra la capacidad de verificación en las propias empresas y en un reducido grupo de agencias gubernamentales. Investigadores independientes, organizaciones civiles y la sociedad en general podrían recibir únicamente versiones parciales o seleccionadas de las evaluaciones.
La seguridad de la inteligencia artificial comienza así a institucionalizarse mediante un modelo híbrido: participación voluntaria de las compañías, acceso anticipado del gobierno y pruebas cuyos criterios principales permanecerán clasificados.
