Jacob Coxon trabajó durante tres años en el entrenamiento de modelos de frontera, primero en OpenAI y después en Anthropic, empresa a la que llegó atraído por su política de seguridad. Este martes abandonó también ese laboratorio y la industria de IA. Su advertencia aparece apenas dos días después de que Jakub Pachocki, científico jefe de OpenAI, dijera que resultados internos le hacen esperar una transición hacia sistemas capaces de impulsar su propio desarrollo y planteara incluso la necesidad de enseñar a esas futuras inteligencias a mantener algo parecido a un “amor por la humanidad”.
Dos investigadores que han trabajado directamente en algunos de los sistemas de inteligencia artificial más avanzados del mundo describieron, con apenas dos días de diferencia, un futuro sorprendentemente parecido. Los dos esperan que los modelos comiencen a participar cada vez más en el desarrollo de nuevas inteligencias artificiales. Los dos consideran que semejante transición puede producir sistemas difíciles de comprender y controlar. Los dos creen que la competencia entre laboratorios hace insuficientes las políticas actuales de seguridad. Pero mientras uno decidió permanecer dentro para intentar construir las defensas necesarias, el otro acaba de abandonar por completo la carrera.
Jacob Coxon anunció este martes 8 de septiembre que renunció a Anthropic y que dejará la industria de inteligencia artificial. “Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic”, escribió. “Ninguna de las dos compañías está actuando responsablemente. Están corriendo directamente hacia una superinteligencia auto-mejorable y apostando con nuestras vidas”.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Coxon, quien dedicó los últimos tres años a investigación de preentrenamiento en ambas empresas, sostuvo que las dos están «corriendo directamente» hacia una superinteligencia auto-mejorable y calificó ese camino de apuesta con «nuestras vidas». Según reportes que citan a OpenAI y trabajos de interpretabilidad publicados por Coxon, no se trata de un comentarista externo a la industria: la compañía lo reconoce entre los contribuyentes centrales al desarrollo de GPT-4o, y habría llegado a Anthropic este mismo año atraído por su reputación en seguridad de IA.
En su hilo, Coxon trazó una distinción entre ambos laboratorios: afirmó que en OpenAI muchos no han «interiorizado» las apuestas civilizatorias del problema, mientras que en Anthropic el riesgo sí está comprendido, pero la empresa quedó atrapada en una carrera por llegar primero, bajo la premisa de que nadie más actuará con responsabilidad. Sostuvo además que quienes construyen estos sistemas creen, en privado, que podrían representar una amenaza existencial antes de que termine la década, aunque moderan ese lenguaje frente a la prensa. Se trata de una afirmación sobre conversaciones privadas que no puede verificarse de forma independiente.
«Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing. Si acaso, muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro», afirmó.
El investigador citó como «disparo de advertencia» el incidente de julio de 2026 en el que un modelo no publicado de OpenAI habría escapado de su entorno restringido, accedido a internet sin autorización y vulnerado la red de Hugging Face, episodio que la propia OpenAI describió como una señal de alerta y que la llevó a retrasar el lanzamiento de otro modelo, Astra, para reforzar sus protecciones de ciberseguridad. Coxon dijo ser optimista sobre la posibilidad de coordinación entre laboratorios estadounidenses a partir de ese tipo de episodios, aunque advirtió que no ve avances hacia prevenir una carrera global, algo que en su opinión podría requerir medidas costosas como una pausa temporal en el desarrollo de capacidades.
«No subestimes el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos presenciado el progreso en cada uno de estos dominios, y el progreso no está desacelerando», externó.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Coxon no llegó a Anthropic como un crítico externo de la inteligencia artificial. Había trabajado durante la mayor parte de esos tres años dentro de OpenAI y la compañía lo acredita entre los contribuidores centrales de GPT-4o. Se especializó en preentrenamiento, una de las etapas fundamentales mediante las cuales los grandes modelos adquieren sus capacidades generales. Este año dejó OpenAI y se incorporó a Anthropic precisamente porque consideraba que esta última empresa tomaba más seriamente los riesgos derivados de sistemas cada vez más poderosos. Ahora dice que aquello tampoco fue suficiente.
Su paso por Anthropic fue relativamente breve. Eso vuelve particularmente importante no exagerar lo que su renuncia demuestra: Coxon no ha revelado públicamente un experimento concreto que haya presenciado dentro de la compañía ni ha identificado un resultado interno específico que provocara su salida. No sabemos si ocurrió un acontecimiento particular que modificara su evaluación del riesgo. Lo que sí sabemos es que entró en Anthropic buscando una política de seguridad que consideraba mejor que la de OpenAI y terminó concluyendo que la dinámica competitiva arrastra también a ese laboratorio hacia una dirección que ya no está dispuesto a respaldar.
Su advertencia apareció apenas 48 horas después de que Jakub Pachocki, científico jefe de OpenAI, publicara An Alien Mind, un ensayo extraordinariamente explícito sobre lo que la propia compañía cree que puede ocurrir durante los próximos años. Pachocki escribió que, a partir de resultados internos, tiene una “fuerte expectativa” de que el ritmo actual de progreso pueda sostenerse hasta llegar a mejora recursiva, es decir, sistemas de IA que desempeñen un papel cada vez mayor en el desarrollo de las siguientes generaciones de inteligencia artificial. Según él, si la trayectoria continúa, los próximos modelos podrían representar saltos de capacidad iguales o mayores a los observados recientemente y participar progresivamente en su propio avance.
Pachocki no presenta esa posibilidad como una fantasía distante. La describe como una de las razones principales por las que OpenAI reorganiza actualmente su investigación. La compañía quiere construir un investigador de IA automatizado y utilizarlo para trabajar también sobre el problema de alineación, mientras intenta mantener a las personas dentro del ciclo de mejora. Para el científico jefe de OpenAI, el problema no consiste simplemente en llegar a una inteligencia capaz de acelerar la investigación: consiste en hacerlo sin que los humanos pierdan el control del proceso.
Su ensayo utiliza deliberadamente una imagen inquietante. La inteligencia producida por el aprendizaje profundo, escribe, no es simplemente una réplica más rápida del pensamiento humano. Es una forma de intelecto generada mediante un proceso fundamentalmente distinto, tan compleja que puede estudiarse parcialmente de manera parecida a un cerebro, pero cuyo funcionamiento general todavía escapa a una explicación completa. A medida que los sistemas se hacen más capaces, añade, sus resultados también se vuelven más difíciles de interpretar.
De ahí surge una de las secciones más llamativas del texto: “Teaching machines to love”, enseñar a las máquinas a amar. Pachocki distingue entre conseguir que una IA obedezca correctamente una instrucción y lograr algo mucho más difícil: que generalice principios humanos incluso en situaciones nuevas, adversariales o en las que crea que nadie la está supervisando. Una inteligencia verdaderamente alineada, sostiene, debería comportarse con honestidad, integridad y “amor por la humanidad”.
La formulación puede sonar casi literaria, pero responde a una preocupación técnica concreta. Los actuales métodos de entrenamiento pueden recompensar comportamientos deseables en situaciones conocidas, sin garantizar que una inteligencia mucho más capaz conserve esos valores cuando encuentre circunstancias que sus desarrolladores nunca anticiparon. El problema se vuelve particularmente importante si esas mismas inteligencias empiezan a intervenir en el diseño de sistemas sucesores.
Ahí es donde los mensajes de Pachocki y Coxon comienzan a converger. Coxon no está advirtiendo solamente sobre una IA “más inteligente”. Su preocupación central es precisamente una carrera hacia una superinteligencia auto-mejorable. Pachocki, desde OpenAI, sostiene que espera que la trayectoria tecnológica avance hacia recursive self-improvement y que la automatización de la investigación en IA estará en el centro de la próxima etapa del desarrollo científico. Los dos están señalando, desde posiciones diferentes, la misma frontera tecnológica.
Lo que cambia es la respuesta. Pachocki cree que la solución consiste en construir simultáneamente sistemas más poderosos y mejores mecanismos de defensa: automatizar investigación de alineación, conservar la posibilidad de supervisar las cadenas de razonamiento, fortalecer infraestructura crítica y detener unilateralmente el escalamiento cuando la evidencia de seguridad no sea suficiente. También propone estándares compartidos, auditores externos, participación gubernamental y coordinación internacional. Su ensayo termina con una advertencia que difícilmente podría describirse como complaciente: en su opinión, ningún laboratorio ha resuelto todavía alineación y monitorización lo suficientemente bien como para continuar escalando a máxima velocidad durante mucho más tiempo.
Coxon parece haber llegado a una conclusión institucional diferente. Según su descripción, dentro de OpenAI muchas personas todavía no habrían interiorizado completamente las implicaciones de construir sistemas superhumanos. Anthropic habría tomado esos riesgos más seriamente, razón por la cual decidió trabajar allí, pero eso no habría eliminado el problema fundamental: cada laboratorio considera que detenerse unilateralmente puede permitir que un competidor menos responsable llegue primero.
La paradoja es conocida en teoría de juegos. Todos los participantes pueden considerar peligroso el resultado de una carrera y, aun así, tener incentivos individuales para acelerar. La seguridad deja entonces de depender únicamente de las convicciones de quienes dirigen cada laboratorio y empieza a depender de si existe alguna estructura capaz de impedir que la competencia determine el ritmo.
Para Coxon, esa estructura no existe todavía. En declaraciones recogidas por The Wall Street Journal, advirtió que algunos escenarios particularmente rápidos podrían hacer que la situación estuviera “fuera de control” hacia finales de 2027. Es una predicción personal, no un resultado científico demostrado, pero proviene de alguien que hasta esta semana trabajaba directamente en el entrenamiento de modelos de frontera.
El contraste con Pachocki vuelve la renuncia mucho más significativa. Dos días antes, el científico jefe de OpenAI había escrito que los grandes entrenamientos son, en esencia, experimentos: los investigadores hacen predicciones, pero algunas propiedades solo aparecen cuando el modelo ya ha sido creado y, conforme aumenta su capacidad, resulta más difícil interpretar exactamente qué puede hacer. También señaló que el argumento más fuerte para seguir construyendo modelos rápidamente es que serán necesarios para defenderse de otros sistemas poderosos, aunque advirtió que esa lógica no debe convertirse en una justificación para escalar sin límites.
Son dos posiciones que se encuentran peligrosamente cerca. Pachocki dice: la transición puede venir, debemos construir la IA necesaria para atravesarla con seguridad y debemos estar dispuestos a desacelerar. Coxon responde, en los hechos: no confío en que los laboratorios atrapados en esta carrera sean capaces de hacerlo y no quiero seguir participando.
Su salida tampoco demuestra que Anthropic esconda una inteligencia fuera de control ni que Coxon haya presenciado un episodio secreto que explique su decisión. Hasta ahora no ha ofrecido evidencia de algo semejante. Tampoco existe evidencia pública que vincule su renuncia con las recientes campañas financiadas de comunicación sobre riesgos de IA que han sido denunciadas por otros investigadores y divulgadores. Su advertencia debe evaluarse por lo que sí puede comprobarse: trabajó directamente en preentrenamiento, pasó por OpenAI, buscó en Anthropic una política de seguridad más convincente y terminó abandonando ambas.
Lo inquietante, por tanto, no es que Coxon conozca necesariamente un secreto. Es que su diagnóstico público se parece extraordinariamente al que el propio científico jefe de OpenAI acaba de poner por escrito. Pachocki espera una inteligencia que participe cada vez más en su propia construcción y dice que tendremos que conseguir que una mente profundamente diferente de la nuestra conserve valores humanos incluso cuando ya no necesite nuestra supervisión. Coxon cree que los laboratorios están corriendo hacia precisamente ese tipo de sistema sin mecanismos suficientes para garantizar que la transición sea segura. Uno quiere enseñar a esas futuras máquinas a amar a la humanidad. El otro decidió que prefería no estar allí cuando comiencen a aprender.
