OpenAI rilis chip pertamanya, Jalapeño, untuk menekan biaya inference

OpenAI memperlihatkan chip kustom pertamanya, Jalapeño, yang dibuat bersama Broadcom lewat kemitraan yang diumumkan kedua perusahaan pada Oktober 2025. Chip ini dirancang untuk satu tugas: inference, yaitu menjalankan model yang sudah dilatih untuk menjawab permintaan pengguna. OpenAI menegaskan mereka tidak berniat menggantikan Nvidia untuk pekerjaan yang lebih berat seperti pre-training, yang tetap berjalan di perangkat keras Nvidia. Tujuan Jalapeño adalah menjalankan model yang sudah ada dengan biaya lebih murah, dan menurut OpenAI uji awal menunjukkan performa per watt yang jauh lebih baik dibanding pilihan terbaik yang ada saat ini.

Desainnya diarahkan langsung ke beban kerja OpenAI sendiri. Perusahaan menyebut chip ini disetel untuk biaya operasi rendah saat melayani model coding real-time, jenis model yang menggerakkan alat seperti Codex, tempat latency dan harga per permintaan sangat menentukan. OpenAI juga mengatakan model mereka ikut membantu merancang chip ini, satu lagi tanda bahwa AI makin masuk ke rantai pasok industrinya sendiri. Detailnya bisa dibaca di laporan TechCrunch.

Untuk sekarang ini masih taruhan yang terkendali, belum produk jadi. Chip masih dalam pengujian, dan OpenAI belum memberi jadwal penerapan, volume produksi, maupun harga. Inti strateginya adalah integrasi vertikal: dengan menguasai chip, data center, sekaligus software, OpenAI ingin menentukan sendiri kurva biayanya alih-alih membayar margin Nvidia untuk setiap token yang dilayani.

Kenapa ini penting

Kalau kamu membangun di atas API OpenAI, performa per watt yang lebih murah pada akhirnya muncul sebagai harga yang lebih rendah dan ketersediaan yang lebih stabil untuk model coding. Tapi Jalapeño hanya untuk inference dan masih diuji, jadi untuk saat ini Nvidia tetap menjadi inti untuk training dan tagihanmu belum berubah.