Il 25 agosto 2026 OpenAI ha pubblicato i primi risultati di Jalapeño, il suo ASIC per l’inference LLM co-sviluppato con Broadcom. Il chip, disegnato da zero a metà 2024 e portato a tape-out in circa 16 mesi, eroga 1,5x-1,9x più lavoro AI per watt e ha una latenza end-to-end 1,7x-3,6x inferiore rispetto ai sistemi di Nvidia, AMD e Google su 3 modelli open-weight: GPT-OSS 120B, DeepSeek R1 670B e Kimi K2.5 1T. Per i carichi altamente interattivi, il vantaggio sale a 2,1x-4,1x in termini di performance.
La cifra più interessante sono i 700 watt di TDP, ma con consumo sostenuto misurato a 550 watt o meno sui workload testati. OpenAI deployerà Jalapeño in rack da 128 chip, capaci di 1,7 exaflops di compute 4-bit e 27,5 TB di HBM4. Un pod completo è 2.048 ASIC, ha spiegato Richard Ho, VP hardware di OpenAI, durante la presentazione a Hot Chips 2026.
Jalapeño eroga quindi 1,9x più lavoro AI per watt rispetto ai sistemi Nvidia Blackwell in peak throughput, con una latenza fino a 3,6x inferiore, misurato sul benchmark pubblico InferenceX di SemiAnalysis e verificato in persona nel lab di OpenAI.
Perché 16 mesi da zero a tape-out è un record per un ASIC
Un ciclo ASIC tradizionale richiede 24-36 mesi dal design al tape-out. Jalapeño ha chiuso il percorso in 16 mesi, partendo dalla selezione del team a metà 2024. OpenAI ha spiegato che i propri modelli AI hanno accelerato il design: le generazioni precedenti hanno aiutato a progettare e portare su il chip, mentre i modelli più recenti stanno ottimizzando la programmazione. Con Codex e GPT-Astra, il team ha portato 3 modelli open-weight che non erano nel piano di produzione originale a performance elevata in 2 mesi. Su alcuni blocchi di attenzione e mixture-of-experts di GPT-OSS, le implementazioni generate da AI correvano 1,5x-1,8x più velocemente di quelle scritte da esperti umani.
Se il tempo per portare un ASIC in produzione scende da 3 anni a 16 mesi, il costo di ingresso nel mercato del silicio custom si abbassa e la barriera alla concorrenza si sposta dal capitale al tempo. OpenAI sta già sviluppando processori specializzati anche per smartphone con MediaTek e Qualcomm: Jalapeño è il primo anello di una catena di silicio proprietario che potrebbe estendersi a tutti i dispositivi.
Cosa fa Jalapeño che le GPU di Nvidia non fanno
Jalapeño è un chip generalizzato per l’inferenza LLM, capace di eseguire modelli di terze parti. Il vantaggio viene dal co-design estremo tra chip, memoria, rete, software e rack: il KV cache viene posizionato esplicitamente e mantenuto locale, riducendo i movimenti di dati tra core e chip. La rete di grande dominio mantiene l’intero workload dentro un singolo sistema connesso, eliminando la latenza di comunicazione che penalizza i sistemi a GPU multi-chip.
Su Kimi K2.5 1T, il modello più grande testato, Jalapeño ha raggiunto 1,5x più performance per watt e 3,4x meno latenza end-to-end rispetto al sistema di confronto. Su GPT-OSS 120B, ha superato i 1.400 token al secondo per utente. Su DeepSeek R1, ha raggiunto oltre 700 token al secondo per utente a concorrenza 1, senza speculative decoding né prefill-decode disaggregation: solo single-token prediction.
Quanto consuma un data center AI
Jensen Huang l’ha detto a Computex 2026: “Se hai 1 gigawatt di potenza, il throughput per watt è il fatturato.” I data center AI sono limitati dalla potenza disponibile, non dal budget o dalla superficie. Aggiungere GPU e aggiungere capacità di rete happen su scale temporali molto diverse: l’interconnessione con la utility, il raffreddamento, i UPS e le generatori behind-the-meter richiedono mesi o anni. AMD ha risposto con Helios, il rack AI rack-scale che punta a sfidare Nvidia proprio su questo asse: più token per megawatt.
Jalapeño si posiziona su questa metrica. SemiAnalysis ha confrontato i risultati di Jalapeño con Vera Rubin NVL72, il sistema Nvidia più recente: su perf/TCO (token per dollaro), i due sono in parità. Ma Jalapeño ottiene quel risultato senza speculative decoding, mentre Rubin lo usa: un vantaggio strutturale che si traduce in costi operativi inferiori per token generato. Per OpenAI, che dichiara di essere limitata dalla potenza e non dal budget, questo significa che lo stesso megawatt serve più utenti.
Le limitazioni di Jalapeño
In primis, va precisato che diversi numeri sono forniti da OpenAI; SemiAnalysis ha eseguito InferenceX nel lab ma non ha eseguito la suite completa né il benchmark AgentX, che SemiAnalysis considera più rappresentativo dei workload di produzione per via del contesto lungo e multi-turno. Secondo: il confronto con Blackwell è incompleto, perchè Vera Rubin, che usa HBM4 come Jalapeño, sta già arrivando ai clienti e sarebbe il confronto più equo. Infine, i modelli testati non sono i frontier più recenti: Nvidia e AMD hanno pubblicato risultati su DeepSeek V4 Pro e Kimi K3 con AgentX, modelli più grandi e più complessi da portare su un chip nuovo.
Cosa succede dopo: deploy entro fine 2026, Gen 2 già in sviluppo
OpenAI ha dichiarato che Jalapeño inizierà a essere deployato nell’infrastruttura di compute entro la fine del 2026, con un roll-out più ampio nel 2027. Gen 2 è in sviluppo avanzato, Gen 3 sta prendendo forma. Richard Ho ha chiarito che Jalapeño non sostituirà Nvidia: “È parte della nostra strategia di compute complessiva, che include i nostri ottimi partner Nvidia, Cerebras e altri. Abbiamo molti bisogni di compute e non li otterremo con un solo colpo.”
OpenAI sta costruendo un full-stack proprietario che va dal modello al prodotto al software di serving al chip alla memoria alla rete ai sistemi. Ogni strato si ottimizza con i dati degli altri. Se il 16 mesi di Jalapeño è il nuovo standard per il ciclo ASIC, la finestra in cui le GPU generaliste dominano l’inferenza si sta chiudendo. La prossima generazione di chip AI non sarà più un prodotto di Nvidia o AMD: sarà il chip della compagnia che ha il modello, il workload e il data center.
