OpenAI asegura reducir 99.6% los ataques para extraer razonamiento de GPT-6.2 y pide sanciones contra actores extranjeros

OpenAI asegura reducir 99.6% los ataques para extraer razonamiento de GPT-6.2 y pide sanciones contra actores extranjeros

La compañía afirma que sus nuevas defensas redujeron del 54% al 0.2% la eficacia de determinados ataques de extracción de razonamiento protegido. También solicita medidas contra la destilación no autorizada de modelos estadounidenses, mientras el secretario del Tesoro, Scott Bessent, acusa a modelos chinos de representar amenazas para la seguridad del país.

OpenAI anunció este viernes 20 de noviembre de 2026 nuevas medidas contra la destilación adversarial de modelos de inteligencia artificial y aseguró haber reducido en 99.6% la tasa de éxito de determinados ataques destinados a extraer el razonamiento interno protegido de sus sistemas. La compañía presentó resultados de pruebas realizadas con GPT-6 Astra y GPT-6.2 Astra, junto con mecanismos de detección, restricciones técnicas y medidas contra redes de cuentas que intentan obtener capacidades avanzadas sin autorización.

En su investigación titulada Combatting adversarial distillation, OpenAI informó que la tasa promedio de éxito de los ataques que intentaban recuperar razonamientos producidos durante solicitudes anteriores pasó del 54% en GPT-6 Astra, con sus protecciones originales, al 0.2% en GPT-6.2 Astra, equipado con nuevas defensas. La reducción representa una mejora relativa de aproximadamente 99.63%, aunque los resultados proceden de una evaluación interna y no constituyen una demostración independiente de que el modelo sea resistente a cualquier técnica de extracción.

La compañía también anunció su respaldo a iniciativas legislativas estadounidenses para identificar y sancionar a actores extranjeros que obtengan ilícitamente capacidades de modelos desarrollados en Estados Unidos. La postura forma parte de una estrategia que combina seguridad informática, protección de propiedad intelectual y competencia tecnológica internacional, en un contexto de acusaciones contra desarrolladores chinos por presuntas campañas de destilación no autorizada.

Cómo consiguió OpenAI reducir la extracción de razonamiento

La destilación es una técnica de aprendizaje automático mediante la cual un modelo utiliza información producida por otro para adquirir capacidades similares. Puede emplearse legítimamente para entrenar sistemas más pequeños, reducir costos de inferencia o transferir habilidades entre modelos. Sin embargo, también puede utilizarse sin autorización para reproducir capacidades comerciales o técnicas de sistemas cuyo funcionamiento interno está protegido.

OpenAI distingue estas aplicaciones de la destilación adversarial, en la que un actor intenta obtener información de un modelo avanzado para transferir sus capacidades a otro sistema que podría operar sin las mismas restricciones de seguridad. Una de las principales preocupaciones de la empresa es la extracción de las llamadas cadenas de razonamiento, que contienen pasos intermedios generados por un modelo antes de producir su respuesta final.

Las nuevas defensas de GPT-6.2 Astra y GPT-6.2 Sol buscan impedir que esos razonamientos sean recuperados o reutilizados fuera de las condiciones en las que fueron generados. Para ello, OpenAI combina entrenamiento adversarial, clasificadores de seguridad y restricciones dentro de su interfaz de programación. Una de las modificaciones consiste en vincular el razonamiento protegido con el historial específico de conversación, de manera que no pueda trasladarse libremente a otra interacción o utilizarse con modelos anteriores que cuentan con protecciones diferentes.

La compañía también utiliza clasificadores para detectar solicitudes sospechosas y posibles filtraciones en las respuestas, incluidas las instrucciones enviadas a herramientas externas. Esta última protección resulta importante porque un modelo podría revelar información protegida al construir los argumentos de una llamada a una herramienta, aunque esa información no aparezca en el mensaje final que recibe el usuario.

Los ataques exitosos caen del 54% al 0.2% en las pruebas de OpenAI

Para evaluar las nuevas medidas, OpenAI realizó pruebas adversariales automatizadas mediante seis modelos atacantes que intentaron recuperar información protegida. Los investigadores utilizaron dos escenarios: obtener el razonamiento generado en una interacción anterior y extraer el razonamiento correspondiente a la solicitud que el modelo estaba procesando en ese momento.

En el primer escenario, GPT-6 Astra registró una tasa promedio de éxito del 54% con sus defensas originales, frente al 0.2% de GPT-6.2 Astra con las protecciones actualizadas. En el segundo, la tasa disminuyó del 22.9% al 0.9%. Las cifras corresponden a ataques adaptativos de caja negra, en los que los sistemas atacantes modifican sus estrategias en respuesta al comportamiento observado del modelo defensor.

Los resultados indican que las defensas examinadas dificultaron considerablemente la extracción de razonamientos protegidos bajo las condiciones de la evaluación. Sin embargo, la comparación involucra versiones diferentes del modelo y configuraciones distintas de seguridad, por lo que no permite atribuir toda la mejora a un único mecanismo ni establecer que el resultado se mantendrá ante ataques desconocidos.

OpenAI reconoce que proteger el razonamiento exacto tampoco elimina todas las posibilidades de transferir capacidades. En otra investigación interna, la empresa entrenó modelos utilizando respuestas finales, resúmenes de razonamiento e interacciones con herramientas, y comprobó que esos datos podían transmitir habilidades relacionadas con programación y ciberseguridad. El acceso a las cadenas completas de razonamiento proporcionó ventajas adicionales en algunas evaluaciones, pero no fue la única fuente de aprendizaje.

Este resultado introduce una limitación importante: las nuevas defensas pueden dificultar la obtención de información interna protegida, pero no necesariamente impiden que otro modelo aprenda capacidades similares a partir de respuestas disponibles legítimamente o mediante otras fuentes de entrenamiento.

Miles de cuentas identificadas en campañas de extracción

OpenAI informó que durante 2026 detectó varias campañas coordinadas de destilación adversarial en sus servicios. Las medidas aplicadas cada semana alcanzaron desde miles hasta decenas de miles de cuentas, con un incremento considerable durante el verano. La compañía no publica en este informe una cifra consolidada de cuentas únicas involucradas ni identifica públicamente a todos los responsables.

Los mecanismos de investigación combinan señales procedentes de solicitudes individuales, actividad de cuentas y patrones que podrían revelar operaciones coordinadas. Cuando identifica presuntas violaciones de sus políticas, OpenAI afirma que puede aplicar medidas contra redes completas de cuentas y compartir indicadores de actividad sospechosa con otros proveedores de modelos.

La empresa también utiliza los ataques descubiertos durante estas investigaciones para desarrollar nuevos ejemplos de entrenamiento y evaluación. De esa forma, los intentos de extracción identificados en sus servicios alimentan las pruebas posteriores de seguridad, mientras los sistemas automatizados buscan reconocer variaciones de técnicas utilizadas anteriormente.

No obstante, el informe no proporciona una auditoría externa sobre el número de campañas detectadas ni permite conocer cuántos intentos permanecieron sin identificar. Las cifras de aplicación de medidas reflejan la actividad reportada por OpenAI, pero no deben interpretarse automáticamente como el número total de atacantes o de organizaciones involucradas.

OpenAI vuelve a señalar a DeepSeek y Moonshot AI

El comunicado recupera acusaciones formuladas anteriormente por OpenAI contra desarrolladores chinos. La empresa señala que en febrero informó al Congreso estadounidense sobre actividades que consideró compatibles con intentos de DeepSeek para destilar capacidades de modelos avanzados de Estados Unidos.

También menciona una investigación divulgada en septiembre, cuando anunció haber interrumpido una campaña coordinada para extraer razonamientos protegidos de sus sistemas. En aquella ocasión atribuyó una parte central de la actividad a personas asociadas con Moonshot AI, desarrolladora de la familia de modelos Kimi.

La investigación de septiembre describió una operación que utilizó numerosas solicitudes con patrones de extracción y mecanismos destinados a obtener información protegida. OpenAI sostuvo que la actividad observada era consistente con una campaña de destilación adversarial y compartió indicadores técnicos con otros participantes de la industria.

Estas acusaciones deben distinguirse de una resolución judicial o de una demostración independiente de responsabilidad empresarial. El nuevo comunicado vuelve a identificar los casos, pero no publica una atribución técnica completa que permita verificar externamente todas las conclusiones sobre los actores involucrados.

La destilación de modelos abre interrogantes sobre el doble uso de capacidades avanzadas

Las acusaciones de OpenAI contra actores vinculados con DeepSeek y Moonshot AI adquieren una dimensión adicional en el contexto de las preocupaciones estadounidenses sobre el uso ofensivo de inteligencia artificial. La compañía sostiene que determinadas campañas de destilación adversarial buscan reproducir capacidades de modelos avanzados mediante la extracción no autorizada de respuestas y razonamientos protegidos. Estas capacidades pueden tener aplicaciones comerciales y científicas legítimas, pero algunas también podrían utilizarse para desarrollar sistemas con funciones ofensivas en ciberseguridad.

La preocupación coincide con las declaraciones realizadas este viernes por Scott Bessent, secretario del Tesoro estadounidense, quien afirmó durante una entrevista con CNBC que modelos chinos de inteligencia artificial estaban detrás de ataques basados en estas tecnologías contra intereses de Estados Unidos. Aunque el funcionario no presentó evidencias que permitieran relacionar esos ataques con las campañas de destilación denunciadas por OpenAI, sus declaraciones introducen una pregunta relevante: hasta qué punto la transferencia de capacidades entre modelos podría facilitar el desarrollo de sistemas utilizados posteriormente con fines ofensivos.

La relación no implica que las empresas señaladas por OpenAI hayan participado en los ataques mencionados por Bessent ni que la destilación constituya por sí misma una actividad maliciosa. Sin embargo, permite identificar un problema de doble uso: técnicas empleadas para reproducir o mejorar capacidades de inteligencia artificial también pueden contribuir a sistemas cuyas funciones representen riesgos de seguridad. Esta posibilidad ayuda a explicar por qué OpenAI presenta la protección de sus modelos no solamente como una cuestión comercial, sino también como parte de la seguridad nacional estadounidense.

OpenAI pide sanciones y mayores controles de exportación

La posición de OpenAI va más allá del fortalecimiento técnico de sus modelos. La empresa anunció su respaldo a legislación que otorgue al gobierno estadounidense nuevas herramientas para identificar y sancionar a actores extranjeros que extraigan ilícitamente capacidades de sistemas de IA desarrollados en el país.

Entre las iniciativas respaldadas menciona la Chip Security Act, la AI OVERWATCH Act y la MATCH Act. También defiende controles de exportación más estrictos sobre los semiconductores avanzados utilizados para entrenar modelos de frontera, bajo el argumento de que restringir el acceso al hardware y proteger las capacidades de sistemas existentes son medidas complementarias.

El razonamiento de OpenAI establece que un actor extranjero podría intentar reproducir capacidades avanzadas mediante destilación incluso cuando no dispone de los procesadores necesarios para desarrollar un modelo equivalente desde cero. En consecuencia, la empresa considera que la seguridad de sus sistemas y los controles sobre la exportación de tecnología forman parte de una misma estrategia para conservar la ventaja estadounidense.

Esta postura también tiene implicaciones competitivas. Las restricciones propuestas podrían afectar la capacidad de otras compañías para desarrollar modelos utilizando información producida por sistemas estadounidenses, por lo que resulta necesario distinguir entre destilación autorizada, investigación legítima y extracción que infringe condiciones de acceso o derechos aplicables.

El comunicado no establece que todas las técnicas de destilación sean ilícitas ni demuestra que la protección comercial y la seguridad nacional tengan siempre objetivos equivalentes. Presenta, en cambio, una propuesta política que busca ampliar la intervención del gobierno estadounidense frente a determinadas actividades de transferencia de capacidades.

La investigación plantea nuevas preguntas sobre la seguridad de los modelos avanzados

La mejora reportada por OpenAI representa un resultado técnico relevante dentro de sus propias evaluaciones de seguridad. Reducir del 54% al 0.2% la tasa de éxito de un tipo específico de ataque indica que las nuevas defensas dificultaron considerablemente la recuperación de razonamientos protegidos, mientras que la reducción del 22.9% al 0.9% en solicitudes actuales proporciona una segunda referencia de desempeño.

Sin embargo, ambas cifras corresponden a una metodología experimental definida por la empresa. Para determinar su alcance real será necesario observar cómo responden las protecciones ante nuevas técnicas adversariales, investigaciones independientes y campañas que no reproduzcan los patrones utilizados durante las pruebas.

La cuestión de fondo tampoco se limita a impedir que un modelo revele su razonamiento. Los sistemas de inteligencia artificial pueden transmitir capacidades mediante respuestas, herramientas y datos sintéticos que no contienen información interna protegida. Por ello, la prevención de la destilación adversarial requiere medidas adicionales y no puede reducirse a ocultar las cadenas de razonamiento.

El comunicado también evidencia una transformación en la manera en que las grandes empresas tecnológicas presentan la protección de sus modelos. Lo que comenzó como un problema de seguridad y acceso no autorizado aparece ahora vinculado con las políticas de exportación, las sanciones internacionales y la competencia por el liderazgo en inteligencia artificial.

Por ahora, OpenAI asegura haber conseguido una reducción extraordinaria en determinadas pruebas internas. La eficacia de esas defensas frente a atacantes independientes y el alcance de las medidas políticas propuestas todavía deberán evaluarse por separado.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *