El primer chip de OpenAI ya tiene benchmarks, y los corrió OpenAI

OpenAI puso el martes sobre la mesa los primeros números medidos de su propio chip de inferencia, en una charla en la conferencia Hot Chips y en un post publicado esa misma mañana. La afirmación central es que Jalapeño, el acelerador que OpenAI diseñó junto a Broadcom, logra dos cosas a la vez entre las que el hardware de inferencia suele obligarte a elegir: más trabajo por unidad de energía y respuestas más rápidas para el usuario individual que está usando el producto.

Cinco minutos después salió una nota complementaria de Sarah Friar, la CFO de OpenAI, con el argumento estratégico de controlar todo el stack hasta el silicio. El chip no es nuevo: OpenAI y Broadcom lo presentaron el 24 de junio, cuando dijeron que todavía estaban midiendo el rendimiento final y que iba a publicarse un informe técnico detallado "en los próximos meses". Este es ese informe, dos meses después.

Qué es Jalapeño

Jalapeño es lo que el anuncio de Broadcom de junio llamó el primer "Intelligence Processor" de OpenAI: un diseño hecho desde cero para inferencia de modelos de lenguaje, no un acelerador de propósito general adaptado desde cargas más viejas. OpenAI diseñó la arquitectura alrededor de sus propios kernels, sus sistemas de serving y su hoja de ruta de modelos; Broadcom se encargó de la implementación del silicio y del networking, incluidos sus chips Tomahawk, y Celestica hace la integración de placa, rack y sistema.

Hay dos detalles de aquel anuncio que conviene arrastrar hasta hoy. Primero, el programa fue del diseño inicial al tape-out de fabricación en nueve meses, algo que Broadcom describió como posiblemente el ciclo de desarrollo de ASIC más rápido logrado en semiconductores de alto rendimiento; en parte, según ambas empresas, porque los modelos de OpenAI ayudaron en el trabajo de diseño. Segundo, las muestras de ingeniería ya corrían cargas de producción en laboratorio a la frecuencia y la potencia objetivo, incluido GPT-5.3-Codex-Spark.

Qué midió OpenAI, y contra qué

OpenAI corrió Jalapeño sobre InferenceX, un benchmark que mantiene la consultora SemiAnalysis y que mide el manejo de pedidos de punta a punta, no el throughput aislado de un kernel. Sobre ese harness, OpenAI reporta a la vez más tokens por usuario y más throughput por kilowatt que los procesadores de inferencia de última generación hoy disponibles. El punto de comparación es un sistema NVIDIA Blackwell.

La conclusión es que los resultados muestran un avance de rendimiento muy, muy significativo sobre el estado del arte. Jalapeño puede servir más trabajo de IA por unidad de energía y a la vez devolver respuestas más rápido. Es muy eficiente para servir a muchos clientes, pero también puede tener latencia muy baja.

El argumento arquitectónico detrás de eso pasa por el movimiento de datos, no por los FLOPs pico. OpenAI dice que el diseño apunta específicamente a las fases de prefill y de comunicación, que es donde se va buena parte del tiempo real de serving. En su post, la empresa describe mantener el estado del modelo —incluido el KV cache que se arma mientras genera una respuesta— ubicado de forma explícita y local, y activar después la combinación justa de cómputo, memoria y red para cada fase de la inferencia.

Si eso se sostiene, ahí está lo interesante. El throughput por watt y la latencia por usuario suelen tirar para lados opuestos: batcheás más fuerte para llenar el acelerador y el pedido individual espera más. Un diseño que mueve las dos cosas juntas es una afirmación sobre arquitectura de serving, no sobre un multiplicador más rápido.

Tres cosas para no soltar

• Los benchmarks los corrió OpenAI. Son resultados medidos por el fabricante sobre un harness de terceros, no una evaluación independiente. SemiAnalysis mantiene InferenceX, pero no publicó una revisión de estas corridas.
• La comparación es contra una generación anterior a lo que NVIDIA está por vender. Blackwell es lo que se puede comprar hoy. NVIDIA pasó esa misma semana de conferencia promocionando a su sucesor.
• Casi nada se despliega este año. Ho dijo que Jalapeño entra en producción a fines de 2026 en volúmenes muy chicos, y que el despliegue serio llega en 2027.

El segundo punto merece párrafo propio, porque el timing no es sutil. El 24 de agosto —el día antes de la charla de OpenAI— NVIDIA publicó resultados medidos donde afirma que sus racks Vera Rubin NVL72 entregan hasta 30 veces más throughput por megawatt que los GB300 NVL72 en cargas de coding agéntico. Esos números los midió NVIDIA, sobre otro harness de SemiAnalysis llamado AgentX, y la propia NVIDIA aclara que están pendientes de revisión por SemiAnalysis. Así que la semana dejó dos afirmaciones grandes de eficiencia, las dos automedidas, las dos sobre benchmarks de la misma consultora, y ninguna confirmada de forma independiente. Leelas como posicionamiento comercial que se va a dirimir más adelante, porque es lo que son.

Qué cambia de verdad para quien construye sobre estos modelos

Esta semana: nada. No se movió ningún precio de API, no cambió ningún modelo, no se liberó capacidad. Un chip que sale en volúmenes muy chicos a fines de 2026 no te toca la factura de tokens.

Lo que cambia es el pronóstico para 2027, y sobre todo quién lo controla. OpenAI es uno de los mayores compradores de cómputo de inferencia del mundo, y hoy el costo de servir una sesión de Codex o un pedido de contexto largo lo fija hardware que alquila, no que fabrica. Jalapeño es el comienzo de una alternativa: no un reemplazo de la capacidad de NVIDIA, que OpenAI sigue contratando a escala de gigawatts, sino una segunda fuente con otra economía. Si una porción relevante del tráfico propio de OpenAI termina corriendo sobre silicio que OpenAI diseñó, el piso del precio de la API pasa a ser en parte una decisión interna.

También vale mirar para qué carga está afinado el chip. El costo de prefill, el overhead de comunicación y la localidad del KV cache son justo las tres cosas que dominan el patrón que generan las herramientas de coding agéntico: contexto acumulado largo, muchos turnos, llamadas a herramientas en el medio. Es hardware apuntado a la carga que más crece, no al chat. Si algo de esa eficiencia llega a quien desarrolla en forma de precios más bajos es otra pregunta, y es comercial antes que técnica.

Una nota sobre las fuentes

La página de resultados de OpenAI devuelve un desafío antibot a los clientes automatizados, así que no pudimos abrirla directamente. Verificamos la existencia del post, su título exacto y su hora de publicación a través del feed oficial de noticias de OpenAI, y las cifras, citas y encuadre de arriba vienen de la llamada con prensa de OpenAI y de su post según lo reportó TechCrunch, más el anuncio de junio emitido a través de Broadcom. Los múltiplos de rendimiento específicos que circulan en coberturas secundarias no se repiten acá, porque no pudimos abrir una fuente que los enuncie.