Sulseltimes.com, Jakarta, Kamis, 27/08/2026 — OpenAI memperkenalkan performa chip AI Jalapeño yang diklaim mengungguli prosesor Nvidia dalam kecepatan dan efisiensi daya untuk tugas inference.
- OpenAI perkenalkan performa chip Jalapeño
- Throughput 1,5-1,9 kali lebih tinggi vs Nvidia
- Dikembangkan dengan Broadcom
- Dirancang khusus untuk inference
- Rencana pakai akhir 2026
Chip Jalapeño dikembangkan bersama Broadcom dan pertama kali diperkenalkan pada Juni 2026. Desainnya difokuskan pada kebutuhan inference, yaitu proses saat model AI menghasilkan respons.
Menurut OpenAI, performa Jalapeño melampaui sejumlah prosesor Nvidia, khususnya dalam hal kecepatan dan efisiensi daya. Dalam pengujian menggunakan benchmark InferenceX dari SemiAnalysis, sistem berbasis Jalapeño menghasilkan throughput 1,5 hingga 1,9 kali lebih tinggi dibandingkan sistem pembanding.
Latensi end-to-end juga diklaim 1,7 hingga 3,6 kali lebih rendah saat menjalankan model GPT-OSS-120B, DeepSeek R1, dan Kimi K2.5. Untuk inference dengan latensi sangat rendah, Jalapeño mampu mencapai performa 2,1 hingga 4,1 kali lebih cepat.
“Hasil pengujian tersebut menunjukkan Jalapeño dapat menangani banyak pengguna dengan lebih efisien sekaligus memberikan respons lebih cepat,” kata OpenAI dalam keterangan resmi, Kamis, 27/08/2026.
Perbandingan dengan Nvidia GB300
Berdasarkan laporan Bloomberg, Jalapeño juga mengungguli Nvidia GB300 dalam jumlah pekerjaan AI yang diselesaikan per unit daya dan kecepatan memberikan respons. Namun, pengujian tersebut belum membandingkan Jalapeño dengan generasi Nvidia Vera Rubin yang lebih baru.
Dari sisi konsumsi daya, Jalapeño memiliki rating 700 watt. Dalam pengujian Hot Chips, konsumsi daya berkelanjutan tercatat tidak lebih dari 550 watt untuk beban kerja yang diuji.
Arsitektur Rak Skala 128 Chip
Jalapeño dirancang dalam konfigurasi rack-scale, mirip dengan sistem Nvidia NVL72 dan AMD Helios. Dalam satu rak terdapat 128 akselerator Jalapeño yang bekerja bersama sebagai satu sistem komputasi.
Setiap akselerator memiliki kemampuan komputasi hingga 13,4 petaflops pada format MXFP4, dilengkapi 216 GB memori HBM4 dengan bandwidth hingga 15,4 TB per detik. Secara gabungan, 128 akselerator menghasilkan kemampuan komputasi hingga 1,7 exaflops untuk komputasi 4-bit, total memori 27,5 TB HBM4, dan bandwidth memori hampir 2 petabyte per detik.
Bandwidth memori tinggi krusial karena Jalapeño dirancang khusus untuk inference, di mana sistem memproses data model saat menerima permintaan dan menghasilkan token jawaban.
Desain Efisien dan Pengembangan Cepat
OpenAI merancang Jalapeño untuk mengurangi perpindahan data. Model state, termasuk KV cache yang menyimpan informasi saat model menghasilkan respons, dipertahankan secara lokal untuk mengurangi keterlambatan komunikasi. Chip ini juga menangani dua tahap inference: prefill saat prompt diproses dan decode saat model menghasilkan token.
AI digunakan dalam proses perancangan dan optimasi, mulai dari mengoptimalkan mesin inference-serving hingga membuat custom kernels untuk model baru. Pendekatan ini mempersingkat waktu dari awal pengembangan hingga desain siap produksi menjadi sekitar sembilan bulan.
OpenAI menegaskan Jalapeño tidak dirancang menggantikan GPU Nvidia dan AMD sepenuhnya. GPU tetap dibutuhkan untuk melatih model AI dan menawarkan fleksibilitas pemrograman yang lebih luas, sedangkan Jalapeño difokuskan pada inference.
Perusahaan berencana mulai menggunakan Jalapeño pada akhir 2026, sebelum masuk produksi volume besar pada 2027. Chip ini menjadi bagian dari upaya OpenAI membangun infrastruktur sendiri untuk menjalankan ChatGPT dan produk AI lainnya.
