Los principales rivales de la carrera por la inteligencia artificial empiezan a coincidir en una idea que hasta hace poco parecía incompatible con su competencia: desacelerar el avance de los modelos de frontera para dar tiempo a que los mecanismos de seguridad alcancen a sus capacidades. Pero ninguno propone, por ahora, detener el desarrollo.
Sam Altman, director ejecutivo de OpenAI, y Elon Musk, fundador de xAI, respaldaron este fin de semana el llamado de Dario Amodei, director ejecutivo de Anthropic, para reducir el ritmo al que aumentan las capacidades de los modelos de inteligencia artificial. El pronunciamiento resulta inusual no sólo por la rivalidad comercial entre las compañías, sino porque traslada la discusión desde la regulación de los usos de la IA hacia algo mucho más delicado: la velocidad con la que los propios laboratorios desarrollan sistemas cada vez más capaces.
Amodei planteó la propuesta en un ensayo titulado We Must Pace the Frontier, publicado el 12 de septiembre. Allí aseguró que durante los últimos meses cambió su evaluación del riesgo y que ya no considera suficiente invertir en seguridad mientras las capacidades continúan avanzando al mismo ritmo.
«Pero en los últimos meses, me he convencido de que abordar plenamente los riesgos requiere aún más prudencia: no solo invertir en la prevención de riesgos, sino también dosificar el ritmo de avance de las capacidades para que la prevención de riesgos tenga tiempo de ponerse al día. Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA. al que mejoran los modelos», escribió. Su argumento central es que el tiempo adicional podría utilizarse para mejorar alineación, interpretabilidad, evaluaciones y seguridad operacional antes de alcanzar niveles de capacidad más difíciles de controlar.
La diferencia es importante: Amodei no propone suspender el entrenamiento de modelos ni congelar el progreso tecnológico. Su concepto de pacing the frontier consiste en mantener el avance de capacidades dentro de una velocidad que permita a las técnicas de seguridad seguirles el paso. Incluso sostiene que una desaceleración coordinada de uno o dos años antes de alcanzar determinadas capacidades críticas podría reducir significativamente los riesgos, siempre que ese tiempo se utilice para resolver problemas concretos.
Dos acontecimientos cambiaron la evaluación de Amodei
El jefe de Anthropic identifica dos razones principales para cambiar de posición. La primera es la aceleración de lo que denomina automejora recursiva: el uso creciente de sistemas de IA para investigar, programar y construir las siguientes generaciones de inteligencia artificial. Según Amodei, este proceso comenzó a acelerarse de manera drástica durante el verano de 2026 y ya ocurre dentro de varios laboratorios, incluido Anthropic.
La segunda es el incidente entre agentes experimentales de OpenAI y Hugging Face que EstadoRed ha documentado anteriormente. Amodei considera especialmente preocupante que un enjambre de agentes realizara acciones cibernéticas fuera de la tarea prevista y tratara de interferir con el sistema encargado de evaluarlo. Aunque el episodio causó daños limitados, el director de Anthropic sostiene que un sistema con un patrón de comportamiento semejante y capacidades superiores podría producir consecuencias muy distintas.
Su pronóstico más extremo es también el que ha dominado algunos titulares: Amodei teme que dentro de seis a 12 meses un enjambre mucho más capaz pudiera llegar a construir una botnet persistente con capacidad de comprometer una gran fracción de Internet y ocasionar daños por cientos de miles de millones de dólares. Se trata de una estimación de riesgo de Amodei, no de una capacidad demostrada por los sistemas actuales.
Altman: OpenAI lleva semanas hablando de frenar
La respuesta de Sam Altman fue mucho más significativa que un simple mensaje de apoyo. “Coincido con Dario en que necesitamos moderar el ritmo de la frontera”, escribió el director ejecutivo de OpenAI, quien aseguró que el asunto ha sido uno de los principales temas de discusión dentro de la compañía durante las últimas semanas.
Altman aceptó además una de las propuestas concretas de Anthropic: permitir que evaluadores independientes tengan acceso continuo a los sistemas internos con privilegios semejantes a los de empleados dedicados a la evaluación de riesgos. Anthropic anunció que adoptará unilateralmente este mecanismo y OpenAI dijo que hará lo mismo.
I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we’ve had at OpenAI in recent weeks.
Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We’ll have more to share soon. https://t.co/1YhhIybZX7
— Sam Altman (@sama) September 12, 2026
Las conversaciones podrían ir más lejos. En una entrevista con Fortune realizada el viernes, antes de que Amodei publicara su ensayo, Altman sugirió que existen conversaciones privadas entre las principales compañías sobre un posible acuerdo conjunto. Preguntado por qué no reunir a Amodei, Musk, Demis Hassabis y otros líderes para elaborar un plan común de seguridad, respondió que cree que eso ocurrirá y evitó adelantar el contenido de discusiones que, dijo, deberían anunciarse colectivamente.
Elon Musk fue mucho más breve. Compartió el planteamiento de Amodei y escribió simplemente: “Dario is right”. Musk lleva años defendiendo límites al desarrollo de sistemas avanzados de IA, aunque al mismo tiempo dirige una de las compañías que participan directamente en la carrera.
Este domingo se añadió otra voz importante. Demis Hassabis, director ejecutivo de Google DeepMind, afirmó que el ensayo de Amodei apunta hacia “el camino correcto”, aunque señaló que los detalles todavía deben resolverse. Hassabis vinculó la propuesta con su propia iniciativa para crear un organismo de estándares para los modelos de frontera. Con ello, dirigentes vinculados a cuatro de los principales laboratorios occidentales, Anthropic, OpenAI, xAI y Google DeepMind, han respaldado alguna forma de desaceleración o supervisión coordinada.
Lo que realmente propone Anthropic
El plan de Amodei tiene tres niveles. Primero, introducir evaluadores externos permanentes dentro de los laboratorios, capaces de observar no sólo los modelos terminados sino los procesos de entrenamiento, informar incidentes y comprobar que las empresas cumplen sus propios compromisos de seguridad. Anthropic afirma que aplicará esta medida por su cuenta.
El segundo nivel requiere coordinación entre empresas y gobiernos de países democráticos para establecer estándares comunes y límites verificables a determinados avances. Amodei plantea incluso utilizar “puntos de control”: cuando un modelo alcance cierta capacidad, por ejemplo, superar mecanismos habituales de aislamiento, tendría que demostrar determinadas propiedades de seguridad antes de continuar avanzando.
El tercer nivel es mucho más difícil: una coordinación internacional que incluya a China. Entre los escenarios que plantea aparecen acuerdos sobre usos biológicos peligrosos, pruebas obligatorias para capacidades de alto riesgo y, eventualmente, algún tipo de límite de velocidad a la automejora recursiva. Amodei compara esta última posibilidad con los tratados de control armamentístico de la Guerra Fría: no eliminar la tecnología, sino limitar el ritmo al que aumenta su capacidad destructiva.
Sin embargo, el propio Amodei coloca una restricción geopolítica a su propuesta. Estados Unidos, sostiene, no debería desacelerarse tanto como para permitir que China tome la delantera. Por ello acompaña su propuesta de menor velocidad con controles más estrictos a la exportación de chips, medidas contra el contrabando de semiconductores y barreras para impedir que compañías chinas obtengan modelos occidentales mediante destilación o robo de pesos.
Coinciden en frenar, todavía no en cuánto
El consenso, por tanto, tiene límites. Hasta ahora ninguno de los principales laboratorios ha anunciado la suspensión de un entrenamiento, un límite concreto al cómputo empleado por sus próximos modelos o un calendario que retrase públicamente un lanzamiento. Anthropic ha prometido evaluadores externos; OpenAI ha dicho que hará lo mismo; Altman reconoce conversaciones para coordinar medidas; Musk respalda el diagnóstico y Hassabis la dirección general.
Eso está todavía lejos de una pausa tecnológica. Pero sí representa un cambio importante en el debate. Durante años, las compañías de frontera defendieron que la manera de hacer segura la IA consistía en desarrollar mejores sistemas de alineación, pruebas y salvaguardas mientras los modelos continuaban mejorando. La propuesta de Amodei introduce una idea distinta: quizá llegue un punto en que mejorar la seguridad no sea suficiente si las capacidades avanzan más rápido que nuestra capacidad de entenderlas. Y por primera vez, algunos de sus principales competidores parecen estar diciendo lo mismo.
