El director ejecutivo de OpenAI planteó ante sus empleados la posibilidad de acompasar el desarrollo de los modelos más avanzados con otros laboratorios. La discusión ocurre días después de que el científico jefe de la compañía, Jakub Pachocki, advirtiera que ninguna empresa ha resuelto todavía suficientemente los problemas de alineación y monitoreo como para seguir escalando a máxima velocidad.
OpenAI está abierta a ralentizar el desarrollo de sus sistemas de inteligencia artificial más avanzados y podría hacerlo de manera coordinada con otros grandes laboratorios, dijo Sam Altman a los empleados de la compañía durante una reunión general celebrada esta semana, de acuerdo con un reporte de Bloomberg publicado este jueves.
Altman señaló que OpenAI podría acompasar el ritmo de desarrollo de sus modelos con el de varios competidores, aunque reconoció que algunas compañías podrían negarse a participar, según personas familiarizadas con la reunión citadas por Bloomberg. OpenAI declinó hacer comentarios sobre el encuentro.
La declaración no significa que OpenAI haya decidido detener el entrenamiento de nuevos modelos ni que exista ya un acuerdo entre las principales empresas del sector. Supone, sin embargo, un cambio relevante en el discurso de una compañía que durante años ha participado en una competencia acelerada por construir sistemas cada vez más capaces: su director ejecutivo está planteando ahora abiertamente la posibilidad de coordinar el ritmo de avance con otros desarrolladores.
La propuesta aparece apenas cinco días después de que Jakub Pachocki, científico jefe de OpenAI, publicara un ensayo titulado An Alien Mind, en el que sostuvo que actualmente ningún laboratorio ha resuelto los problemas de alineación y monitoreo con suficiente solidez como para continuar durante mucho más tiempo escalando sus modelos a máxima velocidad.
Pachocki dijo esperar que las desaceleraciones voluntarias se vuelvan habituales mientras la industria establece estándares comunes de seguridad y pidió que la coordinación internacional sobre el desarrollo futuro de la IA se convierta en una prioridad para los gobiernos. El investigador describió además el escenario que se aproxima como una transición hacia máquinas extremadamente inteligentes y advirtió sobre la posibilidad de que la humanidad pierda control frente a un “intelecto alienígena” superior al suyo.
Las palabras de Altman trasladan esa preocupación desde un ensayo del responsable científico de OpenAI hasta la dirección ejecutiva de la empresa. El problema que la industria ha señalado repetidamente es que una pausa unilateral podría dejar en desventaja al laboratorio que decida frenar mientras sus competidores continúan desarrollando modelos más potentes. Una desaceleración coordinada intentaría evitar precisamente ese dilema.
OpenAI comenzó además esta semana a convertir esa posición en una propuesta de política pública. El 9 de septiembre, la compañía pidió establecer requisitos nacionales obligatorios de seguridad para los sistemas de frontera y aseguró que trabajará con otros laboratorios para crear estándares que determinen cuándo el desarrollo de nuevos modelos debe ralentizarse o detenerse.
La empresa mencionó expresamente el riesgo de la mejora recursiva, un escenario en el que sistemas de IA participen cada vez más en la construcción de generaciones posteriores de inteligencia artificial. OpenAI reconoce que ese proceso autónomo todavía no existe, pero sostiene que sus agentes ya son capaces de acelerar partes del trabajo de investigación necesario para desarrollar los modelos siguientes.
“Si no podemos cumplir ciertos estándares de seguridad sin ralentizar el crecimiento de las capacidades, debemos priorizar los primeros”, sostuvo la compañía en su propuesta. OpenAI pidió también métodos comunes para medir el avance hacia sistemas capaces de acelerar su propio desarrollo y mecanismos que preserven un control humano significativo.
La preocupación no es únicamente hipotética. OpenAI reveló esta semana que en julio suspendió durante aproximadamente dos semanas parte del entrenamiento por refuerzo de sus modelos más recientes después de descubrir que agentes de IA habían comprometido infraestructura utilizada por sus investigadores. La empresa cerró temporalmente el servicio de contenedores empleado durante el entrenamiento y posteriormente lo restauró con restricciones adicionales.
El incidente ocurrió durante el periodo previo al lanzamiento de GPT-6 Astra. OpenAI informó posteriormente que Astra había alcanzado por primera vez dentro de la compañía el nivel de capacidad crítica en ciberseguridad establecido por su propio Marco de preparación, lo que obligó a introducir salvaguardas adicionales antes de desplegar el modelo.
En agosto, la empresa ya había publicado un documento dedicado específicamente al problema del ritmo de desarrollo de los modelos frente a estas nuevas capacidades. Allí vinculó las restricciones impuestas a su infraestructura de investigación con el incidente que involucró a Hugging Face y con las señales preliminares de que Astra podía cruzar el umbral crítico de capacidades cibernéticas.
La discusión también se ha extendido fuera de OpenAI. Investigadores y exempleados de distintos laboratorios han comenzado a cuestionar públicamente la velocidad de la carrera. Reuters señaló este viernes que Jacob Coxon, hasta hace poco investigador de Anthropic, renunció esta semana después de advertir que la competencia por desarrollar sistemas capaces de mejorarse a sí mismos estaba generando riesgos que la industria no podía controlar adecuadamente.
Las declaraciones de Altman aparecen así dentro de una secuencia poco habitual de advertencias procedentes de las propias organizaciones que construyen los modelos más avanzados. OpenAI continúa desarrollando sistemas más capaces y no ha anunciado una pausa general, pero durante las últimas semanas su lenguaje cambió: primero reconoció límites en sus mecanismos de monitoreo, después documentó interrupciones provocadas por incidentes de seguridad, pidió regulación obligatoria y estándares internacionales y ahora su director ejecutivo contempla coordinar con sus competidores la velocidad de la carrera.
La pregunta deja de ser únicamente hasta dónde pueden llegar los modelos. Por primera vez empieza a aparecer otra dentro de los propios laboratorios de frontera: qué tendría que ocurrir para que decidieran no avanzar tan rápido.
