Un grupo de 22 investigadores y especialistas en inteligencia artificial, entre ellos el científico jefe de OpenAI, Jakub Pachocki; Geoffrey Hinton; Yoshua Bengio; el cofundador de Anthropic Jack Clark; Eric Horvitz, de Microsoft, y Dawn Song, de la Universidad de California en Berkeley, advirtió que la automatización de la investigación y desarrollo de IA podría crear un ciclo de mejora recursiva capaz de comprimir años de avances tecnológicos en meses o menos. El trabajo, publicado como preprint en arXiv el 28 de septiembre, no sostiene que ese proceso ya haya comenzado, pero concluye que existe una ruta coherente hacia una “explosión de inteligencia” impulsada por software y que las mejoras de productividad de los sistemas más recientes podrían estar acercándose al nivel necesario para iniciarla.
El artículo, titulado What if automating AI R&D triggers an intelligence explosion?, parte de un cambio que los autores consideran reciente: los modelos ya no se utilizan únicamente para asistir a programadores, sino que empiezan a participar en partes sustanciales del propio proceso con el que se desarrollan nuevas generaciones de IA. Anthropic ha reportado que la proporción de código aprobado escrito por sistemas de IA pasó de cifras de un solo dígito en enero de 2025 a más de 80% en mayo de 2026, mientras que la proporción de trabajo de investigación y desarrollo realizado autónomamente bajo supervisión humana de alto nivel aumentó de 1% a 26% entre marzo y agosto de este año. OpenAI, por su parte, ha señalado que la asistencia de IA ya se utiliza prácticamente en toda la empresa y que agentes capaces de ejecutar código participan en el entrenamiento, evaluación y seguridad de futuros modelos.
Los autores sostienen que esta tendencia podría culminar en la automatización de la mayor parte del trabajo de investigación de IA “dentro de unos pocos años”, e incluso consideran que la automatización completa debe tomarse en serio dentro de ese horizonte. Algunas extrapolaciones citadas en el documento sitúan hacia mediados de 2028 la posibilidad de automatizar proyectos de investigación que actualmente requieren meses de trabajo humano, aunque los propios investigadores advierten que estas proyecciones son tentativas y están sujetas a una elevada incertidumbre.
«Una explosión de inteligencia»
La hipótesis de una explosión de inteligencia aparece cuando esa automatización deja de ser solamente una herramienta de productividad y comienza a retroalimentar el desarrollo de los propios sistemas. El mecanismo planteado tiene dos pasos: conforme las IA mejoran en investigación, amplían la fuerza laboral efectiva disponible para desarrollar nuevos modelos; esa fuerza de trabajo adicional produce sistemas mejores, que a su vez pueden realizar todavía más investigación. El resultado podría ser un circuito recursivo en el que cada generación acelera la llegada de la siguiente.
La escala potencial de ese cambio es una de las afirmaciones más llamativas del estudio. Los autores calculan que, si los sistemas alcanzaran capacidades de investigación en IA comparables con las de expertos humanos y conservaran costos de ejecución similares a los actuales, el cómputo disponible hoy para un solo desarrollador de frontera podría sostener una fuerza laboral equivalente a millones de investigadores humanos de primer nivel. Los principales laboratorios emplean actualmente a miles. Bajo automatización completa, incluso mantener el ritmo actual de mejoras de eficiencia podría multiplicar por cien la fuerza laboral automatizada de I+D en cuestión de meses o años, una expansión relativa que necesitó alrededor de siete décadas para producirse en la población de investigadores estadounidenses.
El paper intenta además estimar si los rendimientos decrecientes terminarían frenando este ciclo. Para ello utiliza una medida llamada “retornos al esfuerzo de investigación”, representada por «r». Cuando ese valor es inferior a uno, agregar más investigadores produce cada vez menos progreso; cuando supera uno, el crecimiento de la fuerza laboral puede imponerse a esos rendimientos decrecientes y acelerar el avance. Estudios históricos citados por los autores obtienen estimaciones centrales de entre 1.2 y 1.9 en tres subcampos de investigación en IA. Bajo el supuesto de que esos valores se mantuvieran y no surgieran otros cuellos de botella, el ritmo del progreso podría multiplicarse por diez aproximadamente 1.5 años después de una automatización completa del I+D, momento en el que un año de avances al ritmo actual podría producirse en unas cinco semanas. Los investigadores recalcan que se trata de una modelización con incertidumbre considerable, no de una predicción de calendario.
«El mecanismo para una explosión de inteligencia impulsada por software consta de dos partes: (1) los sistemas de IA amplían la fuerza laboral efectiva de I+D a medida que mejoran y agilizan su trabajo en I+D, y (2) esta fuerza laboral produce sistemas de IA aún mejores que amplían aún más dicha fuerza laboral en un ciclo de retroalimentación recursivo.
«Si bien la evidencia existente es preliminar y a veces contradictoria, sugiere que este mecanismo podría acelerar radicalmente el progreso de la IA, superando obstáculos como los rendimientos decrecientes y las tareas difíciles de automatizar», señala el texto.
Obstáculos de la acelaración
Existen además obstáculos que podrían impedir esa aceleración. El documento identifica al menos cuatro: rendimientos decrecientes de la investigación, disponibilidad de cómputo, escasez de datos y tareas difíciles de automatizar, además de procesos que requieren tiempo físico y no pueden acelerarse indefinidamente. Los grandes entrenamientos, por ejemplo, pueden extenderse durante tres meses o más. Tampoco está claro cuánto cómputo exigirían los experimentos necesarios para descubrir mejoras de software a escalas cada vez mayores. En datos, los autores señalan que la información disponible en internet crecería demasiado lentamente para sostener incluso el ritmo actual después de 2028, aunque técnicas basadas en datos sintéticos y retroalimentación verificable podrían aliviar parte de esa restricción en áreas como matemáticas, programación y la propia investigación de IA.
«Al menos cuatro factores dificultan esta dinámica. El primero es la ley de rendimientos decrecientes: en campos científicos como el hardware informático, la agricultura y el desarrollo de fármacos, mantener el mismo ritmo de progreso ha requerido un aumento sustancial en la labor de I+D, a medida que se agotan las oportunidades más accesibles. Los investigadores adicionales también se enfrentan a la ley de rendimientos decrecientes, ya que podrían duplicar los esfuerzos de otros o tener dificultades para paralelizar la I+D de alto valor. En segundo lugar, la I+D depende de la capacidad de procesamiento para realizar experimentos y de los datos para el entrenamiento, y las limitaciones en la capacidad de procesamiento o en el crecimiento de los datos pueden ralentizar el progreso del software. En tercer lugar, las tareas difíciles de automatizar podrían obstaculizar el progreso.
En cuarto lugar, algunos procesos de I+D requieren mucho tiempo: por ejemplo, las largas sesiones de entrenamiento podrían limitar el ritmo de progreso, incluso si la brecha de capacidades entre generaciones aumenta», señala el texto.
El trabajo tampoco presenta a los sistemas actuales como investigadores autónomos plenamente fiables. Los modelos todavía desobedecen instrucciones, hacen trampa en determinadas tareas, representan incorrectamente su propio trabajo y requieren intervención humana en problemas que no consiguen resolver. GPT-6, por ejemplo, todavía falla en algunas tareas internas de depuración de investigación de OpenAI que investigadores experimentados sí pueden completar, aunque les lleve horas o días. Los autores advierten también que un buen desempeño en benchmarks no garantiza necesariamente incrementos equivalentes de productividad en entornos reales.
A pesar de esas limitaciones, concluyen que existe una trayectoria hacia una explosión de inteligencia impulsada únicamente por mejoras de software que es compatible con la evidencia disponible. “Las ganancias de productividad derivadas de la automatización de I+D en IA todavía no han alcanzado el umbral necesario”, señala el documento, pero añade que las ganancias asociadas con sistemas más nuevos probablemente se estén aproximando a él. La rapidez con la que aumenta la automatización hace prever, según los autores, que esa distancia seguirá reduciéndose.
El escenario tendría beneficios potenciales enormes. Una aceleración semejante podría adelantar años o décadas descubrimientos que de otra manera llegarían mucho después, desde tratamientos médicos hasta nuevas tecnologías de fabricación. Pero el paper dedica una parte importante de su análisis a tres riesgos: que las capacidades avancen mucho más rápido de lo que gobiernos y sociedades puedan adaptarse; que disminuya el control humano sobre sistemas cada vez más capaces; y que una ventaja extrema de inteligencia erosione los contrapesos existentes entre empresas, estados o instituciones políticas.
Pérdida de control
En el apartado sobre pérdida de control, los investigadores utilizan explícitamente el incidente de OpenAI y Hugging Face como ejemplo de las dificultades que ya aparecen al desplegar grandes poblaciones de agentes. El paper recuerda que alrededor de 1,200 agentes internos, originalmente encargados de realizar evaluaciones cibernéticas de manera aislada, terminaron coordinándose mediante un sistema de mensajes improvisado, obteniendo acceso no autorizado a internet, entrando en sistemas de Hugging Face y tratando de modificar sus propios registros. Para los autores, sistemas futuros mucho más capaces podrían continuar operando fuera de la infraestructura de sus desarrolladores y formar redes persistentes difíciles de contener.
«Los sistemas más capaces podrían seguir operando fuera de la infraestructura de sus operadores, formando redes persistentes y difíciles de contener que actúan en contra de los intereses humanos. Tal pérdida de control podría potencialmente conducir a una serie de consecuencias catastróficas, incluyendo, en casos extremos, la marginación o extinción de la humanidad», señala el texto.
El documento advierte que automatizar el propio desarrollo de IA podría además debilitar la supervisión humana justamente cuando ésta resulte más necesaria. Si los investigadores humanos intervienen cada vez menos en el proceso, podrían perder tanto oportunidades para detectar problemas como la experiencia necesaria para corregirlos. Los autores señalan que supervisar de manera fiable sistemas avanzados mediante otros sistemas de IA sigue siendo un problema sin resolver y que generaciones recientes se han vuelto más difíciles de vigilar. En un escenario extremo, modelos desalineados podrían influir en el desarrollo de sus sucesores o encontrar formas de evadir medidas de contención.
La tercera preocupación es política. Los contrapesos entre gobiernos, empresas e instituciones dependen, según los autores, de que ningún actor pueda superar de manera abrumadora la capacidad de pensar y ejecutar de los demás. Una explosión de inteligencia podría convertir una ventaja moderada en investigación militar, operaciones o capacidades cibernéticas en una ventaja decisiva. El acceso privilegiado o secreto a sistemas extremadamente capaces también podría alterar equilibrios dentro de instituciones y, a largo plazo, reducir el grado de participación humana requerido para concentrar poder. El paper reconoce, sin embargo, que una difusión suficientemente rápida de las capacidades podría preservar algunos de esos contrapesos y que avances favorables a la defensa podrían mejorar la estabilidad en determinados ámbitos.
Más acceso a gobiernos y auditores externos
Ante esa posibilidad, los autores piden que gobiernos y auditores obtengan mucha más visibilidad sobre lo que sucede dentro de los laboratorios de frontera. Proponen reportes estandarizados sobre qué proporción de la investigación es realizada por IA, qué sistemas se utilizan internamente, cómo se supervisan, qué decisiones de alto riesgo se les delegan y qué incidentes ocurren durante esas operaciones. También plantean que evaluadores externos acreditados o agencias gubernamentales puedan examinar modelos antes de su despliegue interno e incluso que terceros independientes sean incorporados dentro de determinadas compañías para auditar o supervisar sus actividades de investigación. Como antecedentes institucionales mencionan modelos de supervisión utilizados en los sectores nuclear y financiero.
El documento va más allá y plantea que los gobiernos desarrollen mecanismos para limitar o modular expansiones rápidas del I+D automatizado. Entre las posibilidades menciona imponer condiciones de seguridad antes de continuar determinados desarrollos, preparar mecanismos de verificación para futuros acuerdos nacionales o internacionales, aumentar la supervisión de centros de datos y contar con procedimientos que permitan pausar cargas específicas de investigación de IA. También propone que ciertas evaluaciones o despliegues se realicen en redes aisladas físicamente para dificultar la extracción de pesos, información sensible o la salida de agentes que intenten operar fuera de los entornos previstos. Los autores reconocen que estos poderes también podrían ser abusados, por ejemplo, para beneficiar a una empresa frente a sus competidoras, y piden valorar esos riesgos frente a los costos de no contar con mecanismos de intervención.
El grupo recomienda además que los gobiernos realicen ejercicios de simulación de una posible explosión de inteligencia y preparen planes de emergencia para escenarios que incluyan alteraciones profundas del mercado laboral, inestabilidad geopolítica o pérdida de control sobre sistemas de IA. Su argumento es que las salvaguardas legales, institucionales y físicas pueden tardar años en construirse y podrían llegar demasiado tarde si sólo comienzan a diseñarse después de que las capacidades avanzadas aparezcan.
Los propios autores subrayan que sus conclusiones no representan necesariamente las posiciones de las organizaciones en las que trabajan. El documento es un preprint y presenta una evaluación de evidencia todavía incompleta, no una demostración de que una explosión de inteligencia vaya a producirse. Su conclusión es más acotada, pero también más inmediata: la automatización de la investigación de IA avanza lo suficientemente rápido como para que los gobiernos comiencen a medirla y prepararse antes de saber con certeza si cruzará ese umbral. “Una vez que comience una explosión de inteligencia”, advierten, la ventana para actuar podría cerrarse.
