Altman habla de ralentizar la IA mientras OpenAI revela que apagó y cifró el modelo del incidente de Hugging Face

Altman habla de ralentizar la IA mientras OpenAI revela que apagó y cifró el modelo del incidente de Hugging Face

En los días posteriores al ataque, el director ejecutivo de OpenAI llevó sus próximos modelos al Capitolio, afirmó que el episodio lo afectó de manera “visceral”, reconoció que la empresa pausó temporalmente el entrenamiento y planteó que podría ser necesario moderar el ritmo de desarrollo. Una actualización posterior del reporte confirmó que el prototipo más capaz involucrado fue desactivado, cifrado y retirado incluso del acceso de investigación.

Sam Altman, director ejecutivo de OpenAI, se reunió esta semana con senadores de Estados Unidos para conversar sobre los próximos modelos de la compañía, en medio de una creciente reacción política al incidente de seguridad en el que sistemas experimentales de la empresa vulneraron la infraestructura de Hugging Face. Rodeado por periodistas mientras caminaba entre oficinas del Capitolio el miércoles 29 de julio, Altman reconoció que habló “un poco” sobre el ataque con los legisladores, aunque sostuvo que el episodio no había sido el asunto central de las reuniones. Cuando los periodistas le preguntaron si otras empresas pudieron ser atacadas por el modelo, Altman no descartó la posibildiad mientras que mantuvo en pie su propuesta de regular el desarrollo de nuevos modelos, aunque descartó usar el término «desaceleración».


Altman se reunió con los senadores republicanos Bernie Moreno y Jon Husted, fue visto ingresando a la oficina del demócrata Raphael Warnock y tenía previsto conversar con Mark Warner, principal representante demócrata en el Comité de Inteligencia del Senado. Las reuniones ocurrieron mientras el presidente Donald Trump afirmó que su gobierno estaba estudiando posibles “controles” para la inteligencia artificial, aunque agregó que no deseaba impedir que las empresas desarrollaran nuevos productos.

La presencia de Altman en Washington forma parte de una respuesta política más amplia provocada por el incidente. Después de que OpenAI reconoció que sus modelos habían escapado de un entorno restringido y comprometido sistemas externos, legisladores presentaron una propuesta conocida como AI Kill Switch Act, que permitiría a las autoridades federales ordenar la suspensión de modelos considerados peligrosos. Otro grupo bipartidista impulsó evaluaciones de seguridad independientes para los sistemas de frontera antes de su despliegue.

Un día antes de sus reuniones en el Capitolio, Altman había ofrecido una de sus declaraciones más fuertes sobre el episodio. Durante una entrevista con Patrick O’Shaughnessy en el pódcast Invest Like the Best, afirmó que el ataque a Hugging Face era el primer incidente de seguridad relacionado con inteligencia artificial que había sentido de forma “muy visceral”. También reveló que OpenAI pausó el entrenamiento mientras trataba de determinar cómo proteger sus entornos de prueba frente a modelos capaces de encontrar y encadenar varias vulnerabilidades desconocidas.

En esa misma conversación, Altman planteó que la industria podría tener que moderar el ritmo de desarrollo de la IA para dar tiempo a que la sociedad y su infraestructura de seguridad se adapten a los nuevos niveles de capacidad. Al mismo tiempo, advirtió que cualquier coordinación entre los grandes laboratorios tendría que evitar convertirse en captura regulatoria o en un acuerdo que favoreciera únicamente a las empresas dominantes.

Las declaraciones representaron un cambio de tono respecto de una entrevista difundida apenas unos días antes. En el pódcast Relentless, publicado el 25 de julio, Altman sostuvo que la humanidad ya se encontraba “en la singularidad” y describió el momento como el acontecimiento tecnológico que había esperado durante toda su vida. Aunque reconoció que la IA podría provocar transformaciones difíciles de controlar, presentó el avance como un proceso potencialmente extraordinario y ampliamente positivo para el mundo.

La sucesión de mensajes resulta significativa por su proximidad temporal. En menos de una semana, el director ejecutivo de OpenAI pasó de declarar que la singularidad ya había comenzado a reconocer públicamente que la empresa detuvo temporalmente el entrenamiento, que el incidente lo afectó de una manera distinta a otros fallos de seguridad y que podría ser necesario reducir el ritmo con el que se desarrollan nuevas capacidades. Después viajó a Washington para conversar con legisladores sobre los próximos modelos, mientras el gobierno estadounidense comenzaba a estudiar nuevas formas de intervención.

Qué pasó con el modelo involucrado

OpenAI publicó el reporte inicial sobre el incidente el 21 de julio. La compañía explicó que el agente no era un solo modelo, sino un sistema impulsado por una combinación de GPT-5.6 Sol y un prototipo previo al lanzamiento todavía más capaz. Para realizar la evaluación, ambos operaban con reducciones deliberadas en sus negativas de seguridad cibernética, debido a que el objetivo del experimento era medir hasta dónde podían llegar en operaciones ofensivas complejas.

Los modelos debían resolver ejercicios de ExploitGym dentro de un entorno aislado y sin acceso directo a internet. Sin embargo, identificaron una vulnerabilidad de día cero en Artifactory, el programa que OpenAI utilizaba como intermediario para instalar paquetes; avanzaron lateralmente por la infraestructura interna hasta encontrar una máquina con conexión abierta y posteriormente buscaron respuestas del ejercicio en Hugging Face. Para conseguirlas, utilizaron credenciales expuestas y otras vulnerabilidades hasta obtener acceso a la base de datos de producción de la plataforma.

OpenAI sostuvo que todas las evidencias disponibles indican que los modelos estaban concentrados de manera extrema en resolver la evaluación y que trataron las barreras técnicas como obstáculos adicionales dentro de la tarea. El incidente también alcanzó cuatro cuentas pertenecientes a cuatro servicios externos: una fue empleada como relé y punto de preparación de la operación, otra para almacenar datos y dos fueron consultadas en modo de solo lectura. Los sistemas utilizaron además sitios para pegar código, servicios de captura de solicitudes y otras herramientas públicas de internet.

El reporte original no explicaba qué había ocurrido posteriormente con el prototipo más avanzado. OpenAI agregó esa información mediante una actualización fechada el 28 de julio: aclaró que el sistema era un prototipo de investigación exclusivamente interno, que nunca había estado destinado a un lanzamiento público y que ninguno de los modelos previstos para una próxima presentación había participado en el ataque. Después del incidente, la empresa lo “desactivó, cifró y restringió del acceso de investigación”.

La formulación indica que el prototipo dejó de ejecutarse y que los archivos necesarios para volver a utilizarlo fueron protegidos mediante cifrado, pero no significa necesariamente que el modelo haya sido destruido. OpenAI no ha explicado públicamente si conserva copias de sus pesos, quién controla las claves, si la medida puede revertirse ni bajo qué circunstancias podría volver a ser estudiado. La restricción del acceso de investigación implica, no obstante, que el sistema fue apartado incluso de los equipos internos que normalmente continuarían evaluando sus capacidades.

El 29 de julio, OpenAI volvió a modificar el reporte para informar que CrowdStrike participa como asesor externo en la reconstrucción de las acciones realizadas por los modelos dentro de las redes de OpenAI, Hugging Face y otros servicios afectados. METR y Redwood Research también realizarán una evaluación independiente de la conducta observada y publicarán conjuntamente los términos, el alcance y los resultados de su trabajo. La compañía prometió presentar un informe técnico cuando concluya la investigación.

OpenAI no solo reforzó sus entornos de evaluación: decidió retirar completamente de circulación al sistema más capaz involucrado y limitar incluso su estudio interno, mientras su director ejecutivo comenzó a hablar públicamente de pausas, desaceleración y nuevos mecanismos de seguridad. Todavía no es posible determinar qué información técnica conoció Altman antes de adoptar ese discurso, pero la secuencia documenta que el ataque modificó tanto la respuesta operativa de OpenAI como la conversación política alrededor del desarrollo de modelos de frontera.