Este sábado, Sam Altman, director ejecutivo de OpenAI, publicó un mensaje en X (antes Twitter) que generó inquietud en una parte de la comunidad tecnológica. En el contexto de una convocatoria para contratar a un Head of Preparedness, un puesto enfocado en la gestión de riesgos, Altman describió a los modelos de la compañía como sistemas que “pueden automejorarse”. Aunque esta afirmación no implica que la inteligencia artificial ya se programe de forma autónoma ni fuera de control humano, sí reconoce públicamente que algunos modelos participan activamente en procesos de mejora y optimización, una admisión que muchos no esperaban ver expresada con tanta claridad en un mensaje corporativo.
El breve mensaje publicado por Altman no se trató de una advertencia explícita ni de una confesión alarmista, sino de algo más sutil: el lenguaje elegido sugirió que ciertos escenarios que antes se consideraban teóricos ya forman parte del presente operativo.
El texto enumera avances positivos, pero introduce también una idea menos habitual en comunicados corporativos: la necesidad urgente de prepararse para usos indebidos, efectos secundarios y dinámicas difíciles de medir, incluso cuando las intenciones sean benignas.
La palabra que encendió las alarmas: “self-improve” (automejora)
Uno de los puntos que más sorprendió fue la mención a sistemas que “can self-improve”. En términos técnicos, esto no implica que los modelos actuales se rediseñen solos de manera autónoma y sin supervisión humana. Se refiere, más bien, a sistemas que:
-
participan en ciclos de mejora,
-
generan código o estrategias que optimizan procesos,
-
o contribuyen activamente al desarrollo de versiones futuras.
Sin embargo, el efecto del término fue inmediato porque marca una diferencia narrativa importante. Hasta ahora, el discurso público enfatizaba modelos reactivos, herramientas que responden a instrucciones. Aquí, en cambio, se reconoce que algunos sistemas ya intervienen de forma no trivial en procesos de mejora, lo que introduce nuevos retos de evaluación y control.
“Preparedness”: preparación antes que corrección
El título del puesto también fue significativo. Preparedness no equivale a “ética”, “seguridad” o “compliance”. Es un término asociado a gestión de escenarios inciertos, donde no todos los riesgos están claramente definidos.
Al usarlo, OpenAI parece reconocer que:
-
no todos los problemas pueden anticiparse con métricas tradicionales,
-
algunas capacidades crecen más rápido que nuestra capacidad para evaluarlas,
-
y que las decisiones de despliegue pueden tener consecuencias fuera del laboratorio.
El propio Altman lo admite al señalar que muchas ideas que “suenan bien” fallan en los casos límite.
Riesgos reales, no hipotéticos
El post menciona ejemplos concretos: impacto en salud mental, uso en ciberseguridad, y capacidades relacionadas con biología. No se presentan como amenazas futuras, sino como áreas donde ya se observan efectos iniciales.
Esto explica parte de la reacción: no se habla de lo que podría pasar algún día, sino de lo que ya empieza a pasar, aunque todavía de forma controlada.
Más que un mensaje alarmista, el post puede leerse como una señal de transición. El desarrollo de capacidades ya no es el único problema central; ahora lo es también entender cómo esas capacidades se comportan fuera de escenarios ideales.
La consternación que generó el anuncio no proviene de una amenaza explícita, sino de algo más incómodo: la sensación de que el lenguaje institucional está alcanzando, por fin, la complejidad real del momento técnico.
