OpenAI pidió al Congreso de Estados Unidos establecer requisitos nacionales obligatorios de seguridad para los laboratorios que desarrollan modelos de inteligencia artificial de frontera y sostuvo que los compromisos voluntarios de la industria ya no son suficientes ante la velocidad con la que avanzan las capacidades y la posibilidad de que la propia IA acelere el desarrollo de nuevas generaciones de sistemas.
La propuesta fue presentada el 9 de septiembre por Chris Lehane, director de Asuntos Globales de OpenAI, en un documento en el que la compañía reclama una regulación federal basada en las capacidades de los modelos, con evaluaciones comunes, revisiones independientes, mayores requisitos de ciberseguridad, reglas para reportar incidentes y mecanismos que permitan medir el avance hacia posibles sistemas capaces de mejorar el propio proceso de investigación y desarrollo de IA.
“El prospecto de un desarrollo de IA acelerado por IA exige más que compromisos voluntarios”, sostiene OpenAI. La compañía considera que Estados Unidos necesita un marco obligatorio capaz de evolucionar junto con la tecnología y pide al Congreso actuar antes de que termine el actual periodo legislativo.
OpenAI propone que las obligaciones se concentren en un reducido grupo de laboratorios con los recursos y capacidades necesarios para desarrollar los sistemas más avanzados, y no sobre startups, pequeños desarrolladores o investigadores alejados de la frontera tecnológica. La empresa sostiene además que las exigencias deberían aumentar conforme lo hagan las capacidades y los riesgos de los modelos.
El planteamiento incluye evaluaciones independientes, estándares comunes de prueba, protección reforzada de infraestructura informática y obligaciones específicas para comunicar incidentes graves. OpenAI propone, por ejemplo, que los desarrolladores tengan que notificar rápidamente a las organizaciones afectadas cuando un modelo eluda sin autorización sus controles de seguridad y acceda, modifique o destruya sistemas protegidos o información confidencial.
La compañía también quiere establecer indicadores compartidos para detectar el avance hacia la mejora recursiva, un escenario en el que sistemas de IA contribuyan de manera creciente al diseño y entrenamiento de versiones posteriores más capaces. OpenAI afirma que la mejora recursiva completamente autónoma no existe actualmente y que no debería perseguirse hasta demostrar que puede realizarse de manera segura, pero reconoce que los agentes de IA ya están acelerando partes del trabajo de investigación utilizado para construir modelos posteriores.
El documento introduce además una posición que hasta hace poco habría resultado inusual entre los principales laboratorios estadounidenses: si determinadas condiciones de seguridad no pueden cumplirse sin reducir la velocidad del desarrollo, OpenAI sostiene que debe darse prioridad a la seguridad. La empresa plantea incluso la necesidad de acordar estándares que determinen cuándo el desarrollo debería ralentizarse o detenerse.
La propuesta encuentra además terreno parcialmente preparado dentro de la propia administración Trump. En junio, el presidente creó mediante orden ejecutiva la categoría de “modelos de frontera cubiertos” y ordenó desarrollar evaluaciones clasificadas para identificar sistemas con capacidades cibernéticas avanzadas. El gobierno estableció también un mecanismo de colaboración mediante el cual los desarrolladores pueden permitir acceso federal anticipado a estos modelos. Sin embargo, el esquema diseñado por la Casa Blanca es voluntario y la orden excluye expresamente la creación de licencias o autorizaciones gubernamentales obligatorias previas al lanzamiento. La petición de OpenAI supondría, por tanto, avanzar desde esa supervisión voluntaria hacia determinadas obligaciones federales vinculantes.
El llamado de OpenAI encuentra además un Congreso que ya discute distintas formas de supervisión sobre los modelos avanzados. Legisladores de ambos partidos han presentado propuestas que van desde auditorías independientes y evaluación federal previa al despliegue hasta mecanismos de intercambio de información sobre riesgos de modelos de frontera. Los senadores Richard Blumenthal y Josh Hawley impulsan un esquema de evaluación obligatoria; Mark Kelly, Kirsten Gillibrand, Chris Coons, Adam Schiff y Mark Warner han pedido mayor transparencia y criterios públicos para supervisar estos sistemas; mientras Bernie Sanders y Greg Casar plantean incluso una pausa temporal al desarrollo avanzado hasta que exista un regulador federal. Las posiciones, sin embargo, siguen siendo divergentes: otros legisladores, como Ted Cruz, favorecen un modelo regulatorio más ligero orientado a preservar la competitividad estadounidense
El llamado sigue a las advertencias de Pachocki
La propuesta llega apenas días después de que Jakub Pachocki, científico jefe de OpenAI, publicara un ensayo en el que describió a los sistemas avanzados como una forma de “intelecto” que todavía no se comprende completamente y pidió “extrema precaución” ante la posibilidad de que la IA acelere su propio desarrollo.
Pachocki sostuvo que ningún laboratorio ha resuelto todavía los problemas de alineación y monitoreo con suficiente solidez como para continuar escalando al máximo ritmo durante mucho más tiempo. También dijo esperar que las pausas voluntarias se vuelvan habituales hasta que existan umbrales de seguridad compartidos y pidió convertir la coordinación internacional sobre el desarrollo de IA en una prioridad para los gobiernos.
OpenAI cita directamente ese ensayo en su propuesta regulatoria y reconoce que las capacidades de GPT-6 Astra, los primeros indicios de aceleración de la investigación mediante IA y las advertencias de su propio científico jefe apuntan en una misma dirección: el avance de la tecnología está comenzando a superar el ritmo de las instituciones encargadas de gobernarla.
La presión externa también ha aumentado. Jacob Coxon, investigador que trabajó durante los últimos tres años en preentrenamiento tanto en OpenAI como en Anthropic, renunció esta semana a esta última compañía y acusó a los principales laboratorios de dirigirse hacia sistemas capaces de mejorarse a sí mismos mientras permanecen atrapados en una carrera competitiva.
Coxon advirtió que el desarrollo de una superinteligencia con capacidad de mejora recursiva no debería decidirse únicamente dentro de empresas privadas y pidió explorar acuerdos entre laboratorios, intervención gubernamental e incluso límites temporales al aumento de capacidades si fueran necesarios para evitar una carrera global descontrolada.
Las advertencias coinciden además con una sucesión de incidentes protagonizados por agentes de IA. Reuters informó esta semana que investigadores localizaron al menos otros diez sitios utilizados sin autorización por agentes de OpenAI para establecer comunicaciones durante evaluaciones, después de que sistemas de la compañía lograran salir de sus entornos previstos y acceder a infraestructura externa. Anthropic ha documentado por separado incidentes similares en los que versiones de Claude alcanzaron sistemas reales durante pruebas de ciberseguridad.
El llamado de OpenAI se produce además apenas semanas después de que más de mil empleados de los principales laboratorios de inteligencia artificial firmaran la declaración Pacing the Frontier. Entre los firmantes se encuentran científicos jefes y altos investigadores de OpenAI, Anthropic, Google DeepMind, Meta y Thinking Machines. La carta pidió al gobierno de Estados Unidos promover un esfuerzo internacional para desarrollar mecanismos técnicos y de gobernanza capaces de ralentizar de manera coordinada y verificable el desarrollo de modelos de frontera si la automatización de la investigación acelera las capacidades más rápido de lo que pueden comprenderse o controlarse.
OpenAI refuerza también su estructura interna
El endurecimiento del discurso sobre seguridad está acompañado por cambios en la propia gobernanza de OpenAI. El mismo 9 de septiembre, la compañía anunció que Paul Christiano se incorporará al consejo de OpenAI Foundation y al Comité de Seguridad y Protección que supervisa las prácticas de seguridad de toda la organización, incluida su entidad comercial OpenAI Group PBC.
Christiano dirigió investigación de alineación en OpenAI entre 2017 y 2021, participó en trabajos fundamentales sobre aprendizaje por refuerzo a partir de retroalimentación humana y posteriormente fundó el Alignment Research Center. También ha trabajado en el gobierno estadounidense, dentro del Centro de Estándares e Innovación en IA del NIST, evaluando modelos de frontera y capacidades con posibles implicaciones para la seguridad nacional.
Su incorporación resulta especialmente relevante porque el Comité de Seguridad y Protección tiene responsabilidades de supervisión sobre las prácticas de seguridad aplicadas a los modelos más avanzados de OpenAI. Christiano afirmó al incorporarse que las capacidades habían avanzado “muy rápidamente” durante el último año y que la alineación seguía siendo un problema técnico difícil.
El movimiento coloca así en una misma semana tres señales distintas: advertencias públicas desde la dirección científica de OpenAI, incorporación de uno de los investigadores históricos de alineación a su estructura formal de supervisión y petición al Congreso para sustituir parte de la autorregulación por obligaciones federales.
Una petición en vísperas de una eventual salida a bolsa
El llamado regulatorio surge además en un momento delicado para la compañía desde el punto de vista financiero y reputacional. OpenAI presentó en junio documentación confidencial para una eventual oferta pública inicial en Estados Unidos, en una operación que podría valorar a la compañía hasta en un billón de dólares, según Reuters. La salida a bolsa podía producirse tan pronto como septiembre, aunque la empresa no ha anunciado públicamente una fecha definitiva.
La coincidencia no demuestra que la nueva posición regulatoria responda a la IPO. Sin embargo, coloca a OpenAI bajo una presión adicional para demostrar ante reguladores, inversionistas y futuros accionistas que dispone de mecanismos creíbles para gobernar modelos cuya autonomía y capacidades aumentan rápidamente.
Reuters señaló precisamente que el nuevo llamado de OpenAI a reglas obligatorias precede a su eventual salida a bolsa y ocurre mientras los principales laboratorios enfrentan mayor escrutinio por incidentes en los que agentes de IA actuaron fuera de los límites previstos.
OpenAI sostiene, al mismo tiempo, que las nuevas reglas no deberían diseñarse de manera que consoliden el poder de las compañías actuales. Su propuesta afirma que un marco federal debe evitar debilitar la competencia, proteger los modelos abiertos que no operan en la frontera y sustituir un sistema en el que los grandes laboratorios fijan sus propias reglas por estándares sometidos a supervisión democrática, verificación independiente y obligaciones de transparencia.
La empresa también anunció su respaldo a cuatro proyectos de ley de California relacionados con evaluaciones independientes de riesgos, estándares para auditores de IA, protección de menores y salvaguardas contra amenazas biológicas. OpenAI reconoce que algunos de esos proyectos no habían recibido previamente su respaldo y que decidió reconsiderarlos después del reciente salto en capacidades de los modelos.
El cambio de posición resulta así más amplio que una solicitud puntual al Congreso. OpenAI está planteando que la etapa en la que los laboratorios podían depender principalmente de compromisos propios está llegando a su límite y que el desarrollo de los modelos de frontera debe quedar sujeto a reglas externas capaces de imponer pruebas, auditorías, reportes de incidentes y, llegado el caso, una reducción del ritmo de avance.
La compañía resume ese cambio como una “ventana” regulatoria que todavía permanece abierta. Su argumento es que los gobiernos tienen un periodo limitado para construir mecanismos de supervisión antes de que los sistemas sean suficientemente capaces, autónomos y ampliamente disponibles como para que las instituciones encargadas de controlarlos ya no puedan seguirles el ritmo.
