OpenAI Klaim Chip Jalapeno Ungguli Nvidia dalam Tes AI

Dominasi Nvidia (NVDA) di pasar chip AI mulai menghadapi tantangan dari salah satu pelanggan terbesarnya sendiri.

OpenAI mengklaim chip AI kustom pertamanya yang diberi nama Jalapeno mampu mengungguli prosesor Nvidia GB300 dalam sejumlah pengujian. Chip yang dikembangkan bersama Broadcom tersebut mencatat hasil lebih baik dalam dua aspek penting untuk menjalankan AI: jumlah pekerjaan yang dapat diproses per unit daya serta kecepatan memberikan respons.

Pembuat ChatGPT itu berencana mulai menggunakan Jalapeno untuk mendukung model AI miliknya pada akhir tahun ini. Langkah tersebut menjadi bagian dari strategi yang lebih besar untuk membangun infrastruktur komputasi sendiri sekaligus mengendalikan biaya yang terus meningkat seiring penggunaan AI.

Namun, hasil tersebut belum berarti OpenAI siap meninggalkan Nvidia. Jalapeno hanya ditujukan untuk inferensi AI, bukan proses pelatihan model yang menjadi salah satu kekuatan utama GPU Nvidia.

Jalapeno Fokus Membuat Inferensi AI Lebih Efisien

Jalapeno dirancang untuk menyelesaikan salah satu persoalan terbesar yang dihadapi perusahaan AI saat ini: menjalankan model untuk jutaan pengguna dengan cepat tanpa membuat biaya komputasi semakin membengkak.

Dalam pengujian OpenAI, chip tersebut dibandingkan dengan Nvidia GB300, salah satu prosesor terdepan pada sistem benchmark publik yang digunakan perusahaan. Jalapeno disebut unggul dalam throughput dan latensi.

Throughput yang tinggi memungkinkan chip menangani lebih banyak permintaan AI secara bersamaan, sementara latensi rendah berarti pengguna dapat memperoleh respons lebih cepat. Kombinasi keduanya menjadi semakin penting ketika model AI berkembang dari sekadar chatbot menjadi sistem agentic AI yang menjalankan tugas lebih kompleks.

Efisiensi energi juga menjadi bagian penting dari desain tersebut. Jalapeno mencatat hasil pengujian pada konsumsi daya sekitar 700 watt, yang menurut OpenAI dapat membantu menekan biaya operasional pusat data karena listrik menjadi salah satu komponen pengeluaran terbesar dalam menjalankan AI.

Pengujian publik dilakukan menggunakan model sumber terbuka berukuran lebih kecil serta model dari DeepSeek dan Moonshot AI. Keunggulan Jalapeno disebut semakin terlihat pada Kimi milik Moonshot, model terbesar dalam pengujian tersebut. OpenAI juga menguji chip itu secara internal pada sejumlah model canggih miliknya yang belum dirilis.

Hasil tersebut mengindikasikan bahwa Jalapeno berpotensi semakin efektif ketika digunakan untuk menangani model dan beban kerja yang lebih besar.

Broadcom Bantu OpenAI Bangun Alternatif Chip Sendiri

Untuk membangun Jalapeno, OpenAI bekerja sama dengan Broadcom (AVGO), perusahaan semikonduktor yang telah berpengalaman mengembangkan chip khusus untuk perusahaan teknologi besar.

Kolaborasi tersebut memungkinkan OpenAI merancang prosesor yang lebih spesifik terhadap kebutuhan modelnya sendiri. Alih-alih mengandalkan chip serbaguna untuk berbagai pelanggan, OpenAI dapat mengoptimalkan perangkat keras dan perangkat lunaknya secara bersamaan untuk jenis beban kerja yang paling sering digunakan.

Perusahaan bahkan menggunakan model AI miliknya sendiri untuk membantu mempercepat proses pengembangan chip.

Jalapeno juga baru menjadi langkah pertama. Generasi kedua chip OpenAI sudah berada dalam tahap pengembangan lanjutan, dengan penyelesaian desain akhir ditargetkan dalam beberapa bulan mendatang. Konsep untuk generasi ketiga juga sudah mulai dirancang.

Strategi tersebut memperlihatkan bagaimana persaingan AI mulai bergeser. Perusahaan tidak lagi hanya berlomba membuat model paling canggih, tetapi juga membangun infrastruktur komputasi sendiri agar biaya menjalankan model tersebut dapat ditekan.

OpenAI bukan satu-satunya pemain yang mengejar pendekatan ini. Startup seperti Etched dan MatX juga mengembangkan prosesor yang berusaha menawarkan kombinasi throughput tinggi, latensi rendah, dan konsumsi daya lebih efisien.

Belum Jadi Pengganti Nvidia

Meski hasil awal Jalapeno terlihat menjanjikan, perbandingannya dengan Nvidia memiliki beberapa batasan penting.

Pertama, Jalapeno tidak dirancang untuk melatih model AI. Chip tersebut difokuskan pada inferensi, yaitu tahap setelah model selesai dilatih dan digunakan untuk merespons pertanyaan atau menjalankan tugas pengguna.

Sementara itu, Nvidia masih memiliki posisi kuat dalam proses training, terutama untuk model AI berskala besar yang membutuhkan kapasitas komputasi sangat tinggi.

Kedua, OpenAI membandingkan Jalapeno dengan GB300, bukan arsitektur Nvidia terbaru, Vera Rubin, yang baru mulai memasuki pasar. Artinya, klaim bahwa Jalapeno mengungguli Nvidia perlu dibaca dalam konteks jenis chip dan beban kerja yang diuji, bukan sebagai keunggulan menyeluruh terhadap seluruh portofolio Nvidia.

OpenAI sendiri masih menggunakan sejumlah teknologi komputasi dari penyedia berbeda. Perusahaan memanfaatkan Cerebras untuk sebagian model dan menegaskan tetap membutuhkan GPU Nvidia dalam jumlah besar.

Kondisi tersebut menunjukkan bahwa tujuan Jalapeno saat ini lebih dekat pada diversifikasi sumber komputasi dan efisiensi biaya, bukan menggantikan Nvidia sepenuhnya.

Persaingan Chip AI Masuk Episode Baru

Kehadiran Jalapeno menambah tekanan baru pada pasar chip AI yang selama beberapa tahun terakhir didominasi Nvidia.

Semakin besar skala penggunaan AI, semakin besar pula insentif bagi perusahaan seperti OpenAI untuk mengembangkan perangkat keras sendiri. Penghematan kecil pada konsumsi listrik atau biaya inferensi dapat menghasilkan dampak finansial yang besar ketika chip digunakan dalam pusat data berskala masif.

Bagi Broadcom, tren tersebut membuka peluang dari meningkatnya permintaan chip AI kustom. Sementara bagi Nvidia, tantangannya bukan hanya datang dari produsen semikonduktor lain, tetapi juga dari pelanggan besar yang mulai mendesain alternatifnya sendiri.

Meski demikian, Jalapeno belum menjadi bukti bahwa dominasi Nvidia telah tergeser. OpenAI masih membutuhkan chip Nvidia, terutama untuk pelatihan model, sementara performa Jalapeno terhadap Vera Rubin juga belum diketahui.

Yang mulai berubah adalah pilihan yang tersedia bagi perusahaan AI. Jika chip kustom seperti Jalapeno mampu memberikan kinerja yang lebih efisien untuk beban kerja tertentu, pusat data masa depan kemungkinan tidak lagi bergantung pada satu jenis prosesor saja.

Bagi investor, perkembangan Jalapeno membuat persaingan infrastruktur AI semakin menarik untuk dicermati. Pertanyaannya kini bukan hanya siapa yang mampu membuat chip AI tercepat, tetapi siapa yang dapat menyediakan komputasi dalam skala besar dengan biaya dan konsumsi daya paling efisien.