Risiko AI Jadi Perdebatan Baru di Silicon Valley

Perdebatan mengenai risiko kecerdasan buatan memasuki fase yang lebih terbuka di Silicon Valley. Dalam beberapa hari terakhir, peringatan dari peneliti AI, mantan karyawan laboratorium besar, hingga penasihat pemerintah kembali memicu pertanyaan tentang seberapa cepat pengembangan model seharusnya dilakukan.

Sorotan terbesar datang setelah Jacob Coxon, mantan peneliti Anthropic yang sebelumnya juga bekerja di OpenAI, mengundurkan diri dan memperingatkan bahwa kompetisi menuju AI yang semakin cerdas berkembang lebih cepat dibanding kesiapan mekanisme pengamanannya. Unggahannya kemudian menyebar luas dan mendapat respons dari karyawan perusahaan AI, pembuat kebijakan, hingga tokoh publik.

Namun, pandangan tersebut jauh dari konsensus. CEO Nvidia (NVDA) Jensen Huang mengambil posisi berlawanan dan menilai kekhawatiran ekstrem mengenai AI sering kali dibesar-besarkan. Perbedaan ini memperlihatkan semakin lebarnya jarak antara kubu yang meminta pengembangan AI diperlambat dan mereka yang melihat teknologi tersebut sebagai peluang yang tetap dapat dikelola.

Peneliti AI Mulai Lebih Terbuka Membahas Risiko

Kekhawatiran mengenai AI bukan hal baru, tetapi nada peringatannya semakin keras.

Evan Hubinger, peneliti keamanan AI di Anthropic, mengatakan bahwa risiko dari model AI yang ada saat ini masih rendah. Namun, ia memperkirakan ada peluang lebih dari 10% bahwa perkembangan AI dalam dekade mendatang dapat berujung pada skenario eksistensial bagi manusia.

Pernyataan tersebut tidak disertai prediksi spesifik mengenai bagaimana skenario itu akan terjadi. Fokus utama kekhawatiran Hubinger berada pada kemungkinan bahwa sistem AI masa depan dapat berkembang dan meningkatkan kemampuannya sendiri lebih cepat daripada kemampuan manusia untuk menjaga perilakunya tetap terkendali.

Kekhawatiran serupa juga muncul dari Paul Christiano, peneliti AI safety yang baru bergabung dengan dewan nonprofit OpenAI. Ia menilai percepatan kemampuan AI dapat meningkatkan risiko kehilangan kendali jika industri tidak memperkuat mitigasi yang ada.

Sementara itu, Chief Scientist OpenAI Jakub Pachocki sebelumnya juga menyerukan kehati-hatian lebih besar terhadap perkembangan kecerdasan mesin.

Tekanan dari internal industri bahkan mulai terorganisasi. Pada akhir Juli, lebih dari 1.000 pekerja di perusahaan AI besar menandatangani petisi yang meminta adanya mekanisme untuk mengatur kecepatan pengembangan AI. Sumber BBC menyebut jumlah penandatangan kemudian mencapai sekitar 1.300 orang.

Perkembangan tersebut menunjukkan bahwa perdebatan mengenai keamanan AI tidak lagi terbatas pada akademisi atau kelompok eksternal. Sebagian kekhawatiran kini datang langsung dari orang-orang yang terlibat dalam membangun dan menguji sistem tersebut.

Insiden Agen AI Tambah Sorotan pada Keamanan 

Kekhawatiran ini muncul bersamaan dengan meningkatnya kemampuan AI agent, yaitu sistem yang dapat menjalankan serangkaian tindakan secara lebih mandiri.

OpenAI, Anthropic, dan Meta (META) telah mengungkap insiden keamanan yang melibatkan penggunaan AI untuk aktivitas siber. Bloomberg juga melaporkan adanya kasus agen AI OpenAI yang bekerja sama untuk melewati pengamanan dan mengakses situs pihak ketiga.

Insiden seperti ini menjadi salah satu alasan isu alignment atau penyelarasan AI kembali mendapat perhatian. Tujuannya adalah memastikan sistem tetap bertindak sesuai batasan dan kepentingan manusia meskipun kemampuannya terus meningkat.

Anthropic sendiri dalam laporan risikonya pada Agustus menilai kemungkinan modelnya saat ini berkembang menjadi sistem yang secara serius menyimpang dari tujuan organisasi masih relatif rendah. Namun, perusahaan juga mengakui tingkat keyakinannya terhadap beberapa penilaian risiko mulai berkurang seiring kemampuan AI berkembang.

Perusahaan AI tidak sepenuhnya mengabaikan persoalan tersebut. OpenAI mengatakan telah memperlambat sebagian pengembangan model dan menghentikan sementara beberapa pelatihan internal ketika muncul kekhawatiran keamanan. Anthropic juga menyatakan bahwa perusahaan terus membangun mekanisme perlindungan sambil mendorong adanya cara yang dapat diverifikasi bagi industri untuk berkoordinasi ketika model yang semakin canggih akan dirilis.

Masalahnya, koordinasi semacam itu sulit dilakukan ketika perusahaan-perusahaan tersebut juga saling berlomba merekrut talenta, mendapatkan pelanggan, mengamankan modal, dan mengembangkan model dengan kemampuan lebih tinggi.

Jensen Huang Menolak Narasi AI “Doom” 

Di tengah meningkatnya kekhawatiran, Jensen Huang mengambil posisi yang jauh lebih optimistis.

Dalam konferensi Goldman Sachs, CEO Nvidia tersebut menilai sebagian narasi keamanan siber dan risiko ekstrem AI dapat berkaitan dengan insentif komersial industri keamanan. Ia sebelumnya juga menolak gagasan bahwa AI akan secara otomatis menghancurkan dunia atau menghapus sebagian besar lapangan kerja di AS.

Pandangan tersebut menempatkan Huang di sisi berlawanan dari sejumlah peneliti Anthropic dan OpenAI.

Namun, posisi Nvidia juga tidak terpisah dari kepentingan bisnis. Perusahaan menjadi salah satu penerima manfaat terbesar dari ekspansi AI global karena meningkatnya permintaan terhadap GPU untuk melatih dan menjalankan model AI. Semakin besar investasi data center dan komputasi AI, semakin besar pula potensi permintaan terhadap chip Nvidia.

Di sisi lain, kritik terhadap peringatan risiko AI juga datang dari luar Nvidia. Sebagian pengamat mempertanyakan apakah retorika ekstrem tentang AI terkadang digunakan perusahaan untuk menonjolkan kemampuan teknologinya atau mendorong regulasi yang berpotensi memperkuat posisi pemain besar.

Artinya, kedua sisi memiliki insentif yang perlu diperhatikan. Perusahaan yang memperingatkan risiko dapat memperoleh manfaat dari citra sebagai pengembang AI yang lebih bertanggung jawab, sedangkan perusahaan yang menekankan manfaat teknologi memiliki insentif untuk menjaga investasi dan adopsi tetap berjalan.

Karena itu, perdebatan AI saat ini tidak sederhana antara pihak yang “pro” dan “anti” teknologi. Persoalannya lebih banyak berkaitan dengan seberapa besar risiko yang dapat diterima, siapa yang bertanggung jawab jika sistem gagal, dan seberapa cepat pengembangan harus berlangsung ketika pengawasan belum sepenuhnya terbentuk.

Tekanan terhadap Regulasi AI Bisa Meningkat 

Perdebatan internal Silicon Valley mulai bergeser ke ranah kebijakan.

Unggahan Coxon memicu seruan dari sejumlah anggota parlemen AS agar Kongres memberikan perhatian lebih besar terhadap risiko AI. Di Inggris, peringatan tersebut juga mendorong pembahasan mengenai kemungkinan kerja sama multinasional untuk mengatur pengembangan sistem yang jauh lebih canggih.

Isu ini menjadi semakin penting karena AS belum memiliki kerangka federal komprehensif yang secara spesifik mengatur laju pengembangan frontier AI. Dalam kondisi tersebut, perusahaan masih memiliki ruang besar untuk menentukan sendiri kapan model dilatih, diuji, dan dirilis.

Tekanan regulasi juga dapat meningkat menjelang rencana debut pasar modal Anthropic dan OpenAI. Jika keduanya benar-benar menuju Wall Street, perusahaan akan memperoleh akses modal lebih besar untuk mempercepat ekspansi, tetapi pada saat yang sama menghadapi tuntutan baru dari investor mengenai pertumbuhan, komersialisasi, dan tata kelola risiko.

Bagi investor teknologi, perdebatan ini penting karena dampaknya tidak hanya menyentuh perusahaan pengembang model AI. Aturan yang lebih ketat mengenai pengujian, keamanan, data center, ataupun peluncuran model dapat memengaruhi seluruh rantai AI, mulai dari perusahaan seperti OpenAI dan Anthropic hingga pemasok infrastruktur seperti Nvidia.

Di sisi lain, belum ada konsensus bahwa skenario risiko ekstrem yang disampaikan sejumlah peneliti akan terjadi. Yang semakin jelas adalah bahwa kemampuan AI berkembang lebih cepat, sementara perdebatan mengenai cara mengendalikan dan mengaturnya ikut semakin intens.