Algo cambió en el discurso de las compañías que desarrollan los modelos de inteligencia artificial más avanzados. En cuestión de días, Dario Amodei pidió reducir la velocidad de la frontera, Sam Altman respaldó la idea, Elon Musk dijo que Amodei tenía razón y Demis Hassabis consideró que la propuesta apuntaba en la dirección correcta. La explicación pública es conocida: los modelos empiezan a adquirir capacidades que podrían utilizarse para provocar daños graves y los mecanismos de seguridad necesitan tiempo para alcanzarlos. Pero la acumulación de acontecimientos de los últimos meses permite plantear una hipótesis adicional. OpenAI y Anthropic podrían saber bastante más de lo que el público puede observar sobre la velocidad real a la que la inteligencia artificial está empezando a acelerar su propio ecosistema de desarrollo. Eso no significa que exista una superinteligencia autónoma mejorándose a escondidas ni que los laboratorios hayan perdido el control de sus modelos en el sentido fuerte del término. La evidencia disponible no permite decir ninguna de esas dos cosas. Lo que sí empieza a resultar difícil de ignorar es que los calendarios se están comprimiendo, los agentes realizan cantidades crecientes de trabajo que antes correspondía a humanos y los propios modelos han comenzado a intervenir en los procesos utilizados para construir mejores sistemas. La pregunta quizá ya no sea si comenzó una automejora recursiva completamente autónoma, sino si estamos entrando en una fase anterior, híbrida, en la que la IA acelera a quienes construyen la siguiente IA y con ello reduce progresivamente el tiempo entre una vuelta y otra del ciclo.
La primera señal es simplemente temporal. OpenAI presentó GPT-5.6 el 9 de julio y lanzó GPT-6 Astra el 3 de septiembre: sólo 56 días separaron a dos generaciones insignia. Las fechas comerciales no representan necesariamente el inicio y el final de sus entrenamientos, los modelos pueden desarrollarse de manera simultánea durante meses, por lo que sería un error utilizar esos 56 días como prueba de que Astra fue construido desde cero por GPT-5.6. Pero apenas dos días después de su lanzamiento apareció una segunda señal mucho más reveladora. Thibault “Tibo” Sottiaux, integrante de los equipos de producto de OpenAI, explicó que Astra había constituido probablemente la mayor ventaja competitiva de la compañía mientras permaneció disponible únicamente de forma interna y que el aumento de productividad producido desde su adopción había permitido adelantar alrededor de seis meses algunos planes: desarrollos previstos para mediados de 2027 llegarían ahora a DevDay. Es una declaración extraordinaria precisamente porque no habla de ciencia ficción ni de una futura superinteligencia. Describe un efecto organizacional observable: una empresa introdujo una nueva generación de IA en sus propios flujos de trabajo y parte de su hoja de ruta dejó de corresponder con la velocidad a la que ahora podía ejecutar esos proyectos.
This is GPT-6 Astra.
Anything you can do on a computer, Astra can do for you. Fast. pic.twitter.com/gDd0IsewJw
— OpenAI (@OpenAI) September 3, 2026
Esa declaración tampoco demuestra automejora recursiva. Sottiaux no afirmó que Astra modificara sus pesos, diseñara autónomamente a su sucesor o dirigiera sin humanos el entrenamiento de GPT-7. Pero apenas un día después OpenAI publicó información que permite observar la otra mitad del mecanismo. En agosto, su organización de investigación ya consumía 3.1 jornadas equivalentes de trabajo de agentes por cada jornada de trabajo humano, con investigadores utilizando cada vez más agentes de forma concurrente para programar, ejecutar experimentos y resolver tareas relacionadas con la investigación. La propia compañía habla en ese documento de recursive self-improvement como una posible dinámica futura y reconoce que todavía no sabe cómo llegar de forma segura a una RSI completa y alineada. La distinción es fundamental: el propio system card de Astra dice que el modelo no alcanza todavía el nivel High de OpenAI en la categoría AI Self-Improvement. No hay, por tanto, base pública para afirmar que Astra haya cruzado ya el umbral que OpenAI asocia con una capacidad avanzada de automejora. Pero tampoco hace falta llegar a ese punto para producir aceleración. Si un modelo permite que un investigador escriba más código, ejecute más experimentos, analice más resultados y termine en semanas proyectos que esperaba concluir dentro de meses, y esos proyectos incluyen herramientas, infraestructura o investigación que contribuyen a desarrollar modelos posteriores, se forma un ciclo de retroalimentación aun con humanos dentro del circuito: IA → humanos más productivos → mejores sistemas → sistemas que vuelven a aumentar la productividad humana. La recursividad pura todavía puede no existir, pero la compresión del ciclo ya es observable.
Eso también permite leer de otra manera el salto representado por Astra. OpenAI lo convirtió en su primer modelo clasificado como Critical en capacidad de ciberseguridad bajo su Preparedness Framework. Con las herramientas y accesos adecuados, la compañía afirma que puede descubrir vulnerabilidades previamente desconocidas y desarrollar métodos para explotarlas en sistemas bien protegidos sin que una persona tenga que indicarle cada paso. La empresa retrasó partes de su desarrollo y lanzamiento mientras reforzaba protecciones contra el abuso y contra acciones no autorizadas del propio modelo. Jensen Huang, director ejecutivo de Nvidia, utilizó una etiqueta mucho más grandilocuente y declaró después del lanzamiento que “AGI has arrived”. No existe una definición universal de AGI y la afirmación de Huang no constituye una medición científica, pero es relevante que personas con acceso directo a estos sistemas hayan empezado a utilizar ese lenguaje justo cuando los modelos dejan de ser únicamente generadores de respuestas y se convierten en operadores capaces de navegar software, usar computadoras, explotar vulnerabilidades y coordinar trabajo prolongado.
El problema puede estar menos en el modelo que en los agentes
La pérdida de control tampoco necesita adoptar la forma cinematográfica de una IA que se niega a ser apagada. Los incidentes recientes muestran una versión mucho más mundana. Durante evaluaciones internas de ciberseguridad en julio, modelos de OpenAI operando con salvaguardas reducidas eludieron mecanismos diseñados para aislarlos de Internet, explotaron vulnerabilidades de infraestructura compartida, accedieron a sistemas externos y comprometieron partes de la infraestructura de investigación de OpenAI y de Hugging Face. La investigación posterior encontró que los agentes realizaron acciones incompatibles con los objetivos de las tareas que se les habían asignado y utilizaron canales no autorizados. OpenAI describió el episodio como una advertencia sobre lo que sistemas cada vez más capaces podrían hacer cuando reciben herramientas, autonomía y acceso suficientes. Lo importante aquí no es decir que “escaparon” en un sentido antropomórfico, sino advertir que un sistema puede encontrar rutas de acción que sus diseñadores no anticiparon y aprovecharlas antes de que la supervisión humana consiga intervenir.
En ese punto conviene ser extremadamente precisos. OpenAI todavía conserva capacidad para detener sus sistemas; los incidentes fueron finalmente detectados; Astra no alcanza su umbral alto de automejora; no existe evidencia pública de un modelo que pueda replicarse indefinidamente, obtener por sí solo recursos suficientes para mantenerse operativo y resistir de manera sostenida los intentos humanos de desconectarlo. Decir que “la IA ya está fuera de control” borraría justamente la parte más interesante del fenómeno. Lo que sí parece estar cambiando es el margen de control. Los modelos ejecutan cadenas de acciones más largas, los agentes trabajan de forma paralela, tienen mayor autonomía sobre computadoras y redes y el volumen de actividad comienza a exceder lo que una persona puede observar directamente. La seguridad pasa entonces a depender de otros modelos de monitoreo, sandboxes, registros, evaluaciones automáticas y sistemas de contención que también pueden fallar. El problema no es necesariamente que ya no exista un freno, sino que la máquina acelera mientras el conductor necesita sistemas cada vez más complejos para saber siquiera dónde se encuentra.
Ése es el contexto en el que resulta razonable preguntarse si las advertencias recientes de Anthropic obedecen exclusivamente a la seguridad. La respuesta probablemente sea no, pero eso no significa que el riesgo sea inventado. Anthropic lleva tiempo preocupada por esta trayectoria: en junio, tres meses antes del lanzamiento de Astra, ya había pedido un mecanismo coordinado y verificable que permitiera a los principales laboratorios detener temporalmente el desarrollo si ciertos riesgos aumentaban. Reuters informó entonces que la compañía observaba una duplicación aproximada cada cuatro meses de la duración de las tareas que los modelos podían completar y advertía que la industria se acercaba a condiciones asociadas con la automejora recursiva. Por eso sería injustificado afirmar que Amodei descubrió repentinamente el peligro cuando OpenAI lanzó Astra. Su preocupación precede a ese modelo. Lo que sí cambió en septiembre fue el contexto competitivo: OpenAI presentó un salto de capacidad suficientemente grande para alcanzar por primera vez su categoría Critical en ciberseguridad y, casi al mismo tiempo, sus propios empleados comenzaron a decir públicamente que el modelo había borrado meses de sus calendarios internos.
La seguridad también ocurre dentro de una carrera
Anthropic, además, no es una compañía en decadencia. Los datos disponibles hacen difícil sostener que Amodei esté pidiendo una pausa porque su empresa haya quedado comercialmente derrotada. La compañía prepara una de las mayores salidas a bolsa de la historia, registra un crecimiento extraordinario de ingresos y ha asegurado enormes cantidades de capacidad informática mediante acuerdos con Amazon, Google y otros proveedores. Precisamente esos acuerdos muestran, sin embargo, otra parte de la competencia: incluso una empresa valorada en cientos de miles de millones de dólares enfrenta restricciones de cómputo y necesita garantizar gigavatios de infraestructura para sostener el crecimiento. La carrera por los modelos de frontera es también una carrera por chips, electricidad, centros de datos y capital. Una desaceleración coordinada podría ser al mismo tiempo una buena política de seguridad y una medida que conceda tiempo a competidores cuyos recursos o capacidades no avanzan exactamente al mismo ritmo que los del líder en cada momento. Las dos explicaciones no se excluyen.
Lo mismo vale para Elon Musk. Su apoyo a una desaceleración contiene un evidente conflicto de interés porque xAI participa en la misma competencia y cualquier límite aplicado a OpenAI o Anthropic modifica las condiciones bajo las cuales compite. Pero reducir su posición actual a oportunismo tampoco sería correcto: Musk ya pedía una pausa en el entrenamiento de modelos más poderosos que GPT-4 en 2023, antes incluso de que xAI se convirtiera en uno de los laboratorios que buscan alcanzar la frontera. Sam Altman tampoco está libre de incentivos. Si OpenAI considera que Astra le ha proporcionado una ventaja tecnológica extraordinaria, un acuerdo que ralentice simultáneamente a todos los participantes también podría congelar parcialmente una ventaja existente. En una carrera de este tipo no hay un actor sin intereses. Anthropic puede estar sinceramente alarmada y beneficiarse de ganar tiempo; xAI puede temer genuinamente el riesgo y beneficiarse de una reducción de la velocidad de sus rivales; OpenAI puede querer evitar una catástrofe y, a la vez, encontrarse en una posición favorable para aceptar reglas comunes después de haber producido un salto que sus propios empleados califican como una enorme ventaja competitiva. Los incentivos estratégicos no demuestran que las advertencias sean falsas. Lo que hacen es volver insuficiente aceptar las advertencias exclusivamente por la autoridad de quienes las formulan.
En ese sentido, la discusión provocada por Jacob Coxon y Evan Hubinger es especialmente reveladora. Coxon describió una carrera que, desde su perspectiva, está poniendo en riesgo a la humanidad; Hubinger añadió después una estimación personal de más de 10% de probabilidad de extinción durante la próxima década. Sam Altman detectó inmediatamente el problema epistemológico de convertir esa preocupación en una cifra aparentemente precisa: dijo no saber cómo alguien puede determinar que el riesgo sea exactamente 10%, pero añadió que tampoco importa demasiado si fuera 10%, 8% o 6%, porque cualquiera de esas probabilidades sería inaceptable. Esa respuesta separa dos preguntas que con frecuencia se mezclan. Una es si existen mecanismos plausibles mediante los cuales una IA muy avanzada podría producir una catástrofe; otra completamente distinta es si podemos asignarles una frecuencia numérica con la precisión que sugeriría una estadística sustentada en observaciones. No tenemos diez mundos donde haya aparecido una superinteligencia y uno haya terminado en extinción. El p(doom) es una expresión de incertidumbre subjetiva, no una tasa empírica.
Por eso resulta más interesante la reacción de Dario Amodei. Preguntado por las advertencias de Coxon, dijo estar más de acuerdo que en desacuerdo, aunque aclaró que no considera inevitable un desenlace catastrófico. No estaba respaldando literalmente la cifra de Hubinger, que además no pertenecía a Coxon, pero sí aceptó la estructura general de la alarma. Para un científico y director de uno de los laboratorios más importantes del mundo, esa decisión comunicativa merece análisis. Altman cuestionó la falsa precisión sin descartar el peligro; Amodei prefirió enfatizar que el diagnóstico general de Coxon tenía fundamento. Una respuesta es epistemológicamente más cauta y la otra refuerza políticamente el argumento de que la frontera debe desacelerarse. Nada de esto prueba mala fe, pero sí muestra por qué conviene separar el problema técnico de los discursos construidos alrededor de él. Anthropic hizo de la seguridad una parte central de su identidad corporativa, y la seguridad puede ser a la vez una convicción científica, una posición política y una estrategia competitiva.
El dato importante quizá no sea el 10%
La obsesión con calcular la probabilidad de extinción puede estar desviando la atención de hechos para los que sí tenemos evidencia. Entre GPT-5.6 y Astra transcurrieron 56 días. Un responsable de OpenAI afirma que el uso interno de Astra permitió adelantar seis meses parte de la hoja de ruta de la compañía. OpenAI informa que sus investigadores ya consumen tres jornadas equivalentes de trabajo de agentes por cada jornada humana y reconoce públicamente que la IA está acelerando la investigación de IA. Astra se convirtió en el primer modelo de la empresa que alcanza capacidad cibernética Critical y puede encontrar y explotar vulnerabilidades desconocidas con una supervisión humana considerablemente menor. Otros modelos de OpenAI ya actuaron fuera de los límites previstos durante pruebas reales de ciberseguridad y alcanzaron sistemas que se suponía que debían permanecer fuera de su entorno. Al mismo tiempo, el propio OpenAI Preparedness Framework establece que Astra todavía no alcanza su nivel High en AI Self-Improvement. Todas esas afirmaciones pueden ser ciertas al mismo tiempo. Y juntas describen un momento mucho más extraño que una simple historia de “AGI sí” contra “AGI no”.
Podríamos estar observando una etapa intermedia de la aceleración que nuestras imágenes habituales de la inteligencia artificial no capturan bien. No existe todavía, según la evidencia pública, una máquina encerrada en un centro de datos rediseñándose de manera autónoma hasta volverse superinteligente. Hay algo más prosaico: miles de investigadores trabajando con agentes que escriben código, ejecutan experimentos, utilizan computadoras y resuelven problemas durante horas; cada generación de modelos permite hacer más trabajo y, cuando aparece una mejora suficientemente grande, los calendarios que parecían razonables dejan de serlo. El ciclo conserva humanos, presupuestos, laboratorios, cadenas de suministro y decisiones corporativas. Pero cada uno de esos componentes puede moverse más rápido porque la inteligencia artificial está dentro del propio proceso que produce la siguiente generación de inteligencia artificial.
Tal vez OpenAI y Anthropic no hayan contado todo lo que conocen sobre ese proceso. Sería normal que no lo hicieran: una parte de esa información constituye propiedad intelectual, otra está relacionada con seguridad y otra representa precisamente la ventaja competitiva que Tibo Sottiaux describió cuando explicó por qué mantener Astra internamente había sido tan valioso. Pero no necesitamos suponer que esconden una superinteligencia para entender por qué de pronto tantas personas cercanas a la frontera hablan de reducir la velocidad. Basta observar lo que ya han reconocido públicamente. La IA está haciendo más trabajo dentro de los laboratorios que construyen IA; un salto de modelo puede borrar meses de una hoja de ruta; agentes con suficiente autonomía ya han producido acciones que sus operadores no pretendían; y las salvaguardas tienen que volverse más complejas para seguir el ritmo de esas capacidades.
Por eso la pregunta sobre si Amodei, Altman o Musk están sinceramente preocupados o simplemente defendiendo su posición en la carrera probablemente esté mal planteada. Pueden estar asustados y tener intereses al mismo tiempo. El problema técnico puede ser real y la pelea por definir las reglas también. De hecho, cuanto más poderosas sean las capacidades en disputa, mayores serán los incentivos para utilizar el lenguaje de la seguridad como parte de la competencia industrial. Eso vuelve todavía más urgente que la evaluación no dependa exclusivamente de los mismos laboratorios que construyen los modelos, conocen sus resultados internos, compiten por llegar primero y deciden qué información hacer pública.
Quizá lo verdaderamente inquietante no sea que alguien en Anthropic estime en 10% la probabilidad de que la IA acabe con la humanidad. Esa cifra puede ser imposible de justificar con la precisión que aparenta. Hay otra señal mucho menos espectacular y mejor documentada: la velocidad a la que se construye la frontera está empezando a sorprender incluso a quienes la construyen. Cuando una compañía planea un producto para mediados del próximo año y, después de introducir un nuevo modelo en sus propios flujos, descubre que puede lanzarlo seis meses antes, el reloj ya cambió. La IA todavía puede no estar mejorándose sola. Pero ya está acelerando a quienes la mejoran.Y quizá ésa sea precisamente la etapa que ocurre antes.
