OpenAI publicó los primeros resultados de Jalapeño, su primer chip propio para inferencia de inteligencia artificial, y afirma que el sistema consigue simultáneamente mayor velocidad de respuesta y más trabajo por unidad de energía que los aceleradores comerciales utilizados como referencia. La compañía planea comenzar a instalarlo en su infraestructura de cómputo antes de que termine 2026.
A diferencia de los chips empleados principalmente para entrenar grandes modelos, Jalapeño fue diseñado alrededor de la inferencia, el proceso que ocurre cuando un modelo ya entrenado recibe una solicitud y genera una respuesta. Este trabajo se vuelve particularmente importante con los agentes de IA, que pueden ejecutar numerosas operaciones consecutivas y acumular los retrasos de cada paso.
OpenAI probó el chip mediante InferenceX, un benchmark público desarrollado por SemiAnalysis, utilizando tres modelos de diferentes tamaños y procedencias: GPT-OSS 120B, DeepSeek R1 670B y Kimi K2.5, de un billón de parámetros. Según los resultados publicados por la compañía, Jalapeño realizó entre 1.5 y 1.9 veces más trabajo por watt en condiciones de máximo rendimiento y obtuvo una latencia total entre 1.7 y 3.6 veces menor que los sistemas de comparación. En cargas particularmente interactivas, OpenAI reportó una ventaja de entre 2.1 y 4.1 veces.
En la prueba con GPT-OSS 120B, por ejemplo, Jalapeño alcanzó alrededor de 85,448 tokens mixtos por kilowatt, frente a 44,960 del sistema basado en Nvidia GB200, mientras la latencia completa de la solicitud bajó de 1.80 a 1.03 segundos. Para DeepSeek R1, comparado con GB300, OpenAI reportó 19,641 frente a 11,781 tokens mixtos por kilowatt y una reducción de latencia de 5.99 a 1.65 segundos.
Los resultados deben tomarse como mediciones publicadas por la propia OpenAI. Aunque la empresa utilizó un benchmark público y describe la metodología y los sistemas comparados, Jalapeño todavía se encuentra en fase de preparación para producción a gran escala y las cifras no constituyen por sí mismas una evaluación independiente del chip.
IA para diseñar un chip de IA
Una de las partes más particulares del proyecto es que OpenAI utilizó sus propios modelos durante el desarrollo del hardware. La compañía afirma que la IA ayudó a explorar implementaciones, verificar diseños y optimizar circuitos aritméticos, lo que permitió pasar del diseño inicial al tapeout, el momento en que el diseño se envía a fabricación, en nueve meses.
La relación continúa después de fabricar el chip. Jalapeño fue diseñado para que tanto ingenieros como modelos de IA puedan programar cómo se distribuyen las operaciones entre memoria, cómputo y comunicaciones. OpenAI utilizó Codex con GPT-Astra para adaptar GPT-OSS, DeepSeek R1 y Kimi K2.5 al nuevo hardware en aproximadamente dos meses.
En determinadas operaciones de atención y mixture-of-experts de GPT-OSS, implementaciones generadas mediante IA funcionaron entre 1.5 y 1.8 veces más rápido que las versiones escritas previamente por especialistas humanos. OpenAI aclara que esta comparación corresponde sólo a bloques seleccionados del modelo y no al rendimiento completo de GPT-OSS.
Menos movimiento de datos
La compañía atribuye buena parte de la eficiencia a una arquitectura diseñada conjuntamente alrededor del chip, memoria, red y software. Durante la inferencia, distintas etapas de un modelo tienen necesidades diferentes: procesar inicialmente una solicitud exige mucho cómputo, mientras generar la respuesta token por token depende en mayor medida del ancho de banda de memoria.
Jalapeño intenta reducir el movimiento de información entre componentes y mantener localmente datos como la KV cache, utilizada mientras el modelo genera una respuesta. El objetivo es evitar que aceleradores permanezcan esperando mientras los datos viajan entre memoria, chips y nodos de red.
La estrategia muestra también un cambio más amplio en OpenAI. La empresa ya no depende únicamente de modelos y software: intenta controlar progresivamente modelos, herramientas de inferencia, chips, memoria, redes y sistemas completos de servidores como una sola plataforma.
OpenAI señala que Jalapeño es apenas la primera generación. Una segunda versión ya se encuentra en desarrollo avanzado y una tercera está empezando a diseñarse. Al mismo tiempo, la compañía asegura que continuará utilizando ampliamente aceleradores de Nvidia y otros proveedores tanto para entrenamiento como para inferencia.
Si los resultados se mantienen cuando Jalapeño sea desplegado a escala, su importancia podría estar menos en sustituir inmediatamente a Nvidia que en reducir uno de los costos que más rápidamente crecen con la expansión de los agentes de IA: la energía y el cómputo necesarios para responder a cada vez más solicitudes, cada vez más largas y compuestas por más pasos.
