Altman responde al debate sobre frenar la IA: competir no justifica actuar con imprudencia

Altman responde al debate sobre frenar la IA: competir no justifica actuar con imprudencia

El director de OpenAI aclaró que “marcar el ritmo” de la frontera no significa detener el desarrollo. La compañía quiere seguir avanzando, pero más despacio de lo técnicamente posible cuando sus mecanismos de alineación, monitoreo y seguridad necesiten tiempo para alcanzar a las capacidades.

Sam Altman precisó esta noche qué entiende OpenAI por desacelerar el desarrollo de la inteligencia artificial y marcó una diferencia importante frente a la posición expresada horas antes por Donald Trump: la competencia estadounidense, incluida la presión por conservar el liderazgo mundial, no debe utilizarse como justificación para permitir que las capacidades de los modelos avancen más rápido que los mecanismos destinados a controlarlas.

En un extenso mensaje publicado en X, el director ejecutivo de OpenAI defendió un marco federal que establezca requisitos consistentes de seguridad para los modelos de frontera, pero añadió que las compañías no necesitan esperar una ley ni una excepción antimonopolio para comenzar a actuar. “ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia”, escribió, y agregó que tampoco debería permitirse que las capacidades se adelanten a la alineación y al monitoreo.

La declaración aparece después de que Trump rechazara este domingo una desaceleración del desarrollo de IA en Estados Unidos. El presidente sostuvo que su país se encuentra por delante de China y que desea conservar esa posición porque “quien gane la IA, gana”. Altman no menciona a Trump por nombre en el mensaje, por lo que sería excesivo presentarlo como una réplica personal; pero su referencia explícita a la “presión competitiva estadounidense” entra directamente en el debate abierto por esas declaraciones.

Pacing” no significa detenerse

Altman utilizó buena parte del mensaje para aclarar otro malentendido que se extendió durante el fin de semana. Cuando OpenAI habla de pacing (moderar o marcar deliberadamente el ritmo de la frontera) no está proponiendo detener el progreso.

Según Altman, el desarrollo ha sido extraordinariamente rápido y seguirá siéndolo. La diferencia es que debería avanzar más despacio de lo que técnicamente podría hacerlo cuando las intervenciones necesarias para garantizar seguridad requieran tiempo. Evaluaciones, monitoreo y demostraciones de seguridad tienen un costo que puede reducir la velocidad, y OpenAI considera que ese costo debe asumirse.

Es una definición bastante más precisa de la desaceleración que se ha discutido durante los últimos días. No se trata necesariamente de congelar modelos durante seis meses ni de dejar de entrenarlos. Significa introducir deliberadamente fricción entre una capacidad disponible y su despliegue o desarrollo posterior cuando todavía no existen suficientes garantías para continuar.

La distinción también permite entender por qué Altman puede respaldar el llamado de Dario Amodei y, al mismo tiempo, seguir defendiendo un desarrollo rápido de la inteligencia artificial. OpenAI no está planteando que menos progreso sea intrínsecamente deseable. Está diciendo que la máxima velocidad técnicamente posible no debe convertirse automáticamente en la velocidad elegida.

OpenAI ya evalúa algunos entrenamientos antes de comenzarlos

La parte técnicamente más significativa del mensaje probablemente sea otra. Altman reveló que OpenAI ya formula safety cases explícitos antes de iniciar determinadas corridas de aprendizaje por refuerzo de frontera cuando espera que produzcan incrementos importantes de capacidad.

Un safety case es, en términos generales, un argumento estructurado acompañado de evidencia para justificar que determinada actividad puede realizarse dentro de márgenes aceptables de seguridad. OpenAI lleva tiempo realizando evaluaciones antes del lanzamiento de sus modelos, pero lo que Altman describe desplaza parte de ese análisis hacia un momento anterior: antes de ejecutar un entrenamiento que podría producir un salto significativo.

La diferencia no es menor. La pregunta deja de ser exclusivamente “¿podemos publicar este modelo?” y comienza a incluir “¿tenemos suficiente confianza para realizar el entrenamiento que podría producir esta nueva capacidad?”

Altman explicó que esos procedimientos se suman al trabajo de seguridad que OpenAI ya realizaba antes de los lanzamientos y pidió que otros laboratorios desarrollen y publiquen sus propios métodos. La compañía considera que estándares compartidos sobre desalineación, monitoreo y seguridad producirían mejores resultados y se mostró dispuesta a colaborar con el resto de la industria para definirlos.

El mensaje también reafirma el respaldo de Altman a la propuesta de Amodei de permitir evaluadores independientes con acceso profundo a los laboratorios. OpenAI ya había anunciado que adoptaría una medida equivalente a la ofrecida por Anthropic.

Altman concede parte del argumento de Sacks

La respuesta contiene además una concesión importante a David Sacks, quien había criticado a OpenAI y Anthropic por sugerir que necesitaban mecanismos regulatorios o excepciones antimonopolio para coordinar una desaceleración. Sacks sostuvo que, si las compañías realmente consideran peligrosos sus sistemas, no necesitan permiso de nadie para reducir unilateralmente la velocidad.

Altman responde ahora que, al menos en esa parte, OpenAI coincide: aunque recibiría favorablemente un marco federal consistente para los modelos de frontera, no considera necesario esperar legislación ni una excepción antimonopolio para comenzar el trabajo de seguridad. Los laboratorios deben hacer primero todo aquello que esté bajo su propio control. El gobierno será especialmente importante, añadió, cuando sea necesaria coordinación internacional.

Esto introduce un matiz relevante respecto del dilema planteado durante el fin de semana. Una de las objeciones contra una desaceleración coordinada era que ningún laboratorio tendría incentivos para frenar si sus competidores continúan avanzando. Altman no elimina ese problema, pero dice que tampoco puede utilizarse como excusa para esperar a que exista un pacto perfecto antes de adoptar medidas.

Y llevó esa responsabilidad a un extremo poco ambiguo: todos los laboratorios de frontera deben ser capaces de operar responsablemente; si no pueden hacerlo, escribió, “no hay razón para que ninguno de nosotros vaya a trabajar”.

Una desaceleración sin detener la carrera

El mensaje deja finalmente una posición de OpenAI bastante más definida de la que existía al comienzo del fin de semana. La compañía no está pidiendo paralizar la investigación ni abandonar la competencia tecnológica. Tampoco sostiene que Washington deba imponer inmediatamente una pausa general.

Propone continuar desarrollando modelos, aceptar que las salvaguardas pueden hacer ese avance deliberadamente más lento, introducir evaluaciones antes incluso de ciertos entrenamientos capaces de aumentar sustancialmente las capacidades, abrir los sistemas a evaluadores independientes y buscar estándares comunes entre los principales laboratorios.

La divergencia con Trump aparece precisamente en el límite de la competencia. Para el presidente, conservar la ventaja estadounidense frente a China constituye una prioridad estratégica suficientemente importante como para rechazar una desaceleración general. Para Altman, esa presión competitiva existe, pero no proporciona una licencia para permitir que la capacidad avance por delante de la posibilidad de supervisarla.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *