OpenAI llevó el Jalapeño, su primer chip personalizado para inferencia de IA, desde el inicio del proyecto hasta el tape-out en nueve meses, utilizando sus propios modelos de inteligencia artificial para acelerar etapas de desarrollo, optimización y verificación. El proceso fue destacado por la CFO Sarah Friar durante la conferencia Communacopia + Technology, de Goldman Sachs.
El tape-out marca la conclusión del diseño de un chip antes del envío para fabricación. Según OpenAI, sus modelos ayudaron a explorar diferentes implementaciones y reducir ciclos de proyecto, medición y verificación de los circuitos.
El Jalapeño fue co-desarrollado con Broadcom, responsable de parte de la implementación del silicio y de la infraestructura de red. Celestica participa en la integración de placas, racks y sistemas.
El chip se usará en la infraestructura de OpenAI
El procesador fue desarrollado específicamente para inferencia de grandes modelos de lenguaje, etapa en la que los modelos ya entrenados procesan solicitudes y producen respuestas. La compañía planea iniciar la implementación del Jalapeño en su infraestructura para finales de 2026.
Pruebas divulgadas por la empresa indicaron entre 1,5 y 1,9 veces más procesamiento por watt y latencia de extremo a extremo entre 1,7 y 3,6 veces menor que los sistemas comerciales utilizados en la comparación, dependiendo del modelo.
Las pruebas incluyeron GPT-OSS 120B, DeepSeek R1 y Kimi K2.5.
OpenAI también compite en costos con modelos chinos
Friar afirmó además que la reducción de 80% en el precio de Luna, modelo de menor costo de OpenAI, ayudó a elevar su uso en aproximadamente diez veces.
Según la ejecutiva, ejecutar Luna puede resultar más barato que operar algunos modelos chinos de pesos abiertos a través de proveedores de nube. Citó como ejemplo el GLM 5.3, de Z.ai.
La comparación refuerza una estrategia más amplia de OpenAI para reducir el costo de operación de sus modelos tanto en el software como en la infraestructura utilizada para ejecutarlos.
