Ketika seseorang meminta chatbot merangkum dokumen, model AI akan memproses permintaan itu lalu menghasilkan jawaban. Proses tersebut disebut AI inference. Hal yang sama terjadi saat AI menerjemahkan percakapan, mengenali objek dalam foto, atau membantu programmer menulis kode.
Bagi pengguna, prosesnya mungkin hanya berlangsung beberapa detik. Bagi perusahaan teknologi, setiap permintaan membutuhkan kapasitas komputasi. Jika sebuah layanan dipakai jutaan orang setiap hari, biaya untuk menjalankan AI menjadi bagian penting dari bisnisnya.
Apa itu AI inference?
AI inference adalah proses ketika model yang telah dilatih menggunakan pola yang dipelajarinya untuk menghasilkan respons terhadap data baru. Data itu bisa berupa pertanyaan, gambar, suara, atau instruksi lain.
Perbedaannya dengan training ada pada tujuannya. Saat training, model mempelajari pola dari data. Saat inference, model menggunakan kemampuan tersebut untuk mengerjakan permintaan pengguna. Google Cloud menggambarkan inference sebagai tahap ketika model yang sudah dilatih digunakan untuk menghasilkan prediksi atau keluaran dari masukan baru.
Contohnya, sebuah perusahaan melatih model agar dapat memahami bahasa. Ketika kamu memasukkan pertanyaan ke chatbot, model tersebut tidak memulai pelatihannya dari awal. Ia memproses pertanyaanmu dan menghasilkan jawaban. Itulah inference.
Bagaimana cara kerja AI inference?
Pada layanan AI generatif, alurnya secara sederhana seperti ini:
- Pengguna memberikan perintah. Misalnya, “Ringkas laporan ini dalam tiga poin.”
- Sistem menyiapkan masukan. Perintah dan dokumen diproses agar dapat dibaca model.
- Model menghasilkan keluaran. Infrastruktur komputasi menjalankan model untuk menyusun respons.
- Jawaban dikirim ke pengguna. Pengguna menerima ringkasan, teks, gambar, atau hasil lain sesuai jenis layanannya.
Setiap langkah membutuhkan sumber daya. Permintaan sederhana dan dokumen panjang tidak selalu memerlukan kapasitas komputasi yang sama. Kecepatan jawaban juga penting: layanan yang murah dijalankan tetapi terlalu lambat bisa membuat pengalaman pengguna memburuk.
Mengapa AI inference membutuhkan biaya?
Biaya inference muncul selama model digunakan. Perusahaan perlu menyediakan chip dan server, listrik, jaringan, serta sistem yang mampu melayani banyak permintaan sekaligus.
Untuk layanan berbasis teks, biaya sering dikaitkan dengan jumlah token, yaitu satuan yang digunakan untuk memproses masukan dan keluaran model. Panjang pertanyaan, dokumen yang disertakan, dan panjang jawaban dapat memengaruhi jumlah token yang diproses. Namun, total biaya perusahaan tidak berhenti pada token. Infrastruktur dan cara layanan itu dioperasikan juga berpengaruh.
Inilah sebabnya perusahaan berupaya membuat inference lebih efisien: menghasilkan jawaban yang tetap berguna dengan biaya dan waktu pemrosesan yang lebih rendah. Upayanya dapat mencakup pemilihan model yang sesuai untuk tiap tugas, pengaturan kapasitas server, serta pengembangan perangkat keras dan perangkat lunak.
Apa pengaruhnya pada bisnis teknologi?
Bayangkan sebuah perusahaan menawarkan fitur AI kepada pelanggan dengan biaya berlangganan tetap. Ketika penggunaan fitur tersebut meningkat, pendapatan dari pelanggan belum tentu naik dengan kecepatan yang sama. Sementara itu, perusahaan harus terus membayar sumber daya untuk memproses permintaan.
Kondisi ini membuat biaya per penggunaan penting. Perusahaan perlu menilai apakah pendapatan dari produk AI cukup untuk menutup biaya menjalankannya dan menghasilkan keuntungan.
Di sisi lain, perusahaan penyedia chip dan layanan cloud memiliki peluang menjual infrastruktur kepada bisnis yang membutuhkan kapasitas inference. Jadi, meningkatnya penggunaan AI bisa berdampak berbeda pada tiap perusahaan: ada yang menjual alatnya, ada yang menyewakan kapasitas komputasi, dan ada yang menggunakan AI sebagai fitur produknya.
Microsoft memberi contoh mengapa investor perlu melihat kedua sisi tersebut. Dalam laporan tahun fiskal 2026, perusahaan menyebut pertumbuhan penggunaan produk AI dan investasi infrastruktur AI ikut menekan persentase margin kotor Microsoft Cloud, meski sebagian dampaknya diimbangi oleh peningkatan efisiensi.
Saham AS apa saja yang terkait dengan AI inference?
Hubungan sebuah saham dengan AI inference bergantung pada posisi perusahaannya dalam bisnis AI. Berikut beberapa contoh untuk dipelajari, bukan daftar saham yang pasti diuntungkan.
| Saham | Perusahaan | Kaitan dengan AI Inference |
|---|---|---|
| NVDA | NVIDIA | Menyediakan perangkat dan perangkat lunak untuk pusat data yang menjalankan beban kerja AI, termasuk inference. |
| AMD | Advanced Micro Devices | Menawarkan prosesor dan akselerator untuk infrastruktur AI. Perusahaan juga mengembangkan solusi yang ditujukan untuk kebutuhan inference. |
| MSFT | Microsoft | Menyediakan layanan AI melalui Azure dan produknya, sekaligus menanggung investasi infrastruktur untuk melayani penggunaan tersebut. |
| AMZN | Amazon | Melalui AWS, menyediakan layanan AI dan chip buatannya sendiri untuk menjalankan beban kerja pelanggan. |
| GOOGL | Alphabet | Menggunakan AI dalam produknya dan menyediakan infrastruktur Google Cloud, termasuk TPU untuk menjalankan model. |
NVIDIA dan AMD berada di sisi pemasok teknologi komputasi. Microsoft, Amazon, dan Alphabet berada lebih dekat dengan pelanggan layanan cloud atau pengguna produk AI. Namun, pembagian ini tidak sepenuhnya kaku karena masing-masing perusahaan dapat mengembangkan beberapa bagian dari infrastruktur AI sekaligus. NVIDIA dan AMD menjelaskan penggunaan produk mereka untuk inference, sementara Amazon dan Google juga mengembangkan chip untuk kebutuhan tersebut.
Apakah inference yang lebih murah selalu baik untuk saham AI?
Belum tentu. Biaya yang lebih rendah dapat membantu perusahaan melayani lebih banyak pengguna atau memperbaiki margin. Namun, jika harga layanan AI ikut turun karena persaingan, manfaatnya terhadap keuntungan bisa lebih kecil dari yang dibayangkan.
Bagi pemasok chip, inference yang semakin efisien juga tidak otomatis berarti penjualan akan turun. Kapasitas yang dibutuhkan bisa tetap meningkat apabila penggunaan AI tumbuh jauh lebih cepat. Hasil akhirnya bergantung pada permintaan pelanggan, harga jual, persaingan, dan kemampuan perusahaan menghasilkan keuntungan dari investasi infrastrukturnya.
Karena itu, investor perlu berhati-hati dengan kesimpulan sederhana seperti “penggunaan AI naik, maka semua saham AI pasti naik.”
Apa yang perlu diperhatikan investor?
Saat membaca laporan atau berita perusahaan teknologi yang berkaitan dengan AI inference, perhatikan beberapa pertanyaan berikut:
- Dari mana pendapatan AI berasal? Apakah perusahaan menjual chip, menyewakan kapasitas cloud, atau mengenakan biaya untuk fitur AI?
- Berapa besar biaya untuk melayani penggunaan AI? Pertumbuhan pengguna akan lebih berarti jika perusahaan dapat mengelola biaya per penggunaan.
- Bagaimana perkembangan marginnya? Pendapatan yang naik belum tentu diikuti kenaikan persentase keuntungan.
- Berapa besar belanja infrastrukturnya? Pusat data dan perangkat komputasi membutuhkan investasi besar sebelum manfaatnya terlihat penuh.
- Apa keunggulannya dibanding pesaing? Harga, kinerja, kecepatan, dan kemudahan penggunaan dapat memengaruhi pilihan pelanggan.
Pertanyaan tersebut membantu investor melihat AI sebagai kegiatan bisnis yang memiliki pendapatan, biaya, dan risiko, bukan sekadar fitur baru yang ramai dibicarakan.
Kesimpulan
AI inference adalah proses saat model AI yang sudah dilatih digunakan untuk menjawab permintaan atau mengerjakan tugas baru. Semakin luas penggunaan AI, semakin penting pula kemampuan perusahaan untuk menjalankan proses tersebut secara cepat dan efisien.
Bagi investor, tema ini membuka cara lain untuk mempelajari saham teknologi AS. NVIDIA dan AMD terkait dengan penyediaan komputasi, sedangkan Microsoft, Amazon, dan Alphabet terkait dengan layanan serta infrastruktur yang digunakan pelanggan. Masing-masing memiliki peluang dan biaya yang berbeda.
Jika kamu ingin mengenal saham AS yang berkaitan dengan perkembangan AI, kamu dapat menelusuri emiten tersebut melalui Nanovest, lalu membandingkan model bisnis dan laporan keuangannya sebelum mengambil keputusan investasi. Keterkaitan dengan AI inference bukan jaminan harga saham akan naik.






