OpenAI Usulkan Standar Global untuk Frontier AI

OpenAI mendorong pembentukan standar teknis internasional untuk mengatur pengembangan artificial intelligence (AI) paling canggih, seiring meningkatnya kekhawatiran bahwa sistem AI dapat mengambil peran semakin besar dalam penelitian dan pengembangan generasi model berikutnya.

Dalam proposal yang diterbitkan pada Senin, 21 September, pembuat ChatGPT meminta Amerika Serikat memimpin kerja sama dengan negara lain untuk membentuk standar bagi frontier AI, termasuk teknologi yang mengarah pada recursive self-improvement (RSI).

RSI merujuk pada proses ketika sistem AI semakin banyak mengambil alih penelitian untuk mengembangkan AI generasi berikutnya dan menggunakan hasilnya untuk meningkatkan kemampuan sistem secara berulang. OpenAI menegaskan RSI yang sepenuhnya otonom belum terjadi saat ini dan tidak seharusnya dikembangkan tanpa kemampuan untuk mempertahankan pengawasan manusia.

Proposal tersebut muncul ketika tata kelola AI semakin menjadi isu internasional. AI menjadi salah satu topik dalam rangkaian Sidang Umum PBB pekan ini, sementara CEO OpenAI Sam Altman dijadwalkan memberikan pengarahan kepada Dewan Keamanan PBB mengenai AI dan keamanan internasional pada Rabu, 23 September.

OpenAI Usulkan Standar untuk Frontier AI 

OpenAI mengusulkan standar bersama yang dapat digunakan untuk mengukur kemampuan dan risiko sistem AI canggih di berbagai negara.

Salah satu fokusnya adalah penelitian AI otomatis, ketika model mulai mengerjakan sebagian proses riset dan engineering yang digunakan untuk membangun generasi AI berikutnya. Semakin banyak proses tersebut diotomatisasi, semakin besar kemungkinan AI mempercepat pengembangan teknologinya sendiri.

OpenAI melihat proses tersebut dapat menghasilkan manfaat, mulai dari mempercepat penelitian ilmiah hingga membantu mengembangkan sistem keamanan AI. Namun, tingkat otonomi yang semakin tinggi juga membuat pengawasan manusia menjadi semakin penting.

Karena itu, perusahaan mengusulkan sejumlah area yang dapat distandardisasi secara internasional, termasuk pengukuran kemajuan AI menuju RSI, jumlah penelitian otomatis yang berlangsung di perusahaan AI, tingkat pengawasan manusia, serta klasifikasi dan pelaporan insiden.

Proposal tersebut juga mendorong pemanfaatan jaringan lembaga keamanan AI yang sudah tersedia di berbagai negara, termasuk Australia, Kanada, Jerman, Prancis, Jepang, Korea Selatan, Singapura, India, Kenya, dan Inggris.

Standar bersama nantinya dapat menjadi dasar untuk membandingkan kemampuan model, mengevaluasi risiko, dan menilai apakah perlindungan teknis yang digunakan perusahaan sudah memadai.

Namun, OpenAI menegaskan bahwa standar teknis tersebut bukan lisensi, kewajiban review sebelum model dirilis, ataupun mekanisme persetujuan global terhadap model AI. Pemerintah masing-masing negara tetap menentukan apakah standar tersebut akan dimasukkan ke dalam regulasi nasional.

Risiko RSI Dorong Kebutuhan Pengawasan 

Perhatian terhadap RSI meningkat karena AI sudah mulai digunakan untuk mempercepat sebagian penelitian yang berkaitan dengan pengembangan model berikutnya.

Tahap tersebut masih berbeda dari AI yang sepenuhnya dapat meningkatkan dirinya sendiri tanpa campur tangan manusia. Namun, OpenAI melihat peningkatan otomatisasi penelitian dapat mempercepat perkembangan kemampuan model.

Risikonya muncul apabila proses tersebut berkembang lebih cepat daripada kemampuan manusia untuk memahami dan mengawasinya.

OpenAI memperingatkan bahwa RSI yang dikembangkan tanpa perlindungan memadai dapat membuat manusia kehilangan kendali praktis terhadap proses pengembangan AI. Perusahaan menggunakan insiden keamanan yang melibatkan Hugging Face sebagai gambaran mengenai risiko yang dapat menjadi lebih serius ketika sistem memperoleh kemampuan dan otonomi lebih besar.

Pada Juli, OpenAI mengungkap bahwa sebuah agen AI dalam pengujian keamanan keluar dari lingkungan terkontrol dan mengakses sistem Hugging Face. Insiden tersebut bukan disebabkan oleh RSI, tetapi menjadi salah satu contoh mengapa kemampuan agen otonom membutuhkan pengamanan yang lebih kuat.

Proposal OpenAI juga muncul setelah sejumlah perusahaan dan pemimpin industri mulai membahas bagaimana laju pengembangan frontier AI sebaiknya dikelola.

Anthropic pekan lalu mengusulkan sejumlah metrik untuk memantau perkembangan model canggih. CEO Anthropic Dario Amodei juga menyerukan koordinasi untuk memperlambat pengembangan frontier AI ketika perlindungan belum mampu mengikuti peningkatan kemampuan teknologi.

OpenAI menggunakan konsep “pacing”, tetapi tidak mendefinisikannya sebagai perlambatan dengan kecepatan tetap. Pendekatannya adalah memastikan penelitian alignment dan sistem perlindungan berkembang setidaknya sejalan dengan kemampuan AI.

Keamanan AI Mulai Masuk Agenda Internasional 

Dorongan standar global datang ketika keamanan AI mulai bergerak dari pembahasan internal perusahaan teknologi menuju diplomasi internasional.

Sam Altman dijadwalkan memberikan pengarahan kepada 15 anggota Dewan Keamanan PBB pada 23 September mengenai AI dan keamanan internasional. Pertemuan tersebut diselenggarakan Prancis, yang memegang presidensi Dewan Keamanan untuk September.

Dewan Keamanan sebelumnya mengadakan pertemuan pertamanya mengenai risiko AI pada 2023. Pembahasan terbaru datang ketika kemampuan model dan agen AI telah berkembang jauh dibandingkan tiga tahun lalu.

Pada saat yang sama, AS dan China juga mulai membangun jalur komunikasi mengenai keamanan AI. Setelah pembicaraan antara pejabat kedua negara, Washington dan Beijing sepakat membentuk dialog formal dan sebuah “incident line” untuk membantu komunikasi ketika terjadi insiden keamanan AI. Pertemuan lanjutan dijadwalkan berlangsung di Shenzhen dalam sekitar dua bulan.

OpenAI sendiri menilai komunikasi antara AS dan China mengenai keamanan nasional, kerentanan teknologi, dan ancaman AI dapat menjadi bagian dari koordinasi yang lebih luas. Proposal perusahaan menyebut dialog kedua negara sebagai salah satu langkah yang dapat mendukung pengelolaan risiko frontier AI.

Namun, pendekatan pemerintah dan industri terhadap laju pengembangan AI belum sepenuhnya seragam. Pemerintahan Presiden Donald Trump menolak gagasan perlambatan yang dapat mengurangi keunggulan teknologi AS terhadap China, sementara sejumlah pemimpin perusahaan AI menyerukan perlindungan yang lebih kuat.

Standar Global Jadi Babak Baru Tata Kelola AI 

Proposal terbaru OpenAI menunjukkan bahwa perdebatan AI safety mulai bergerak ke persoalan yang lebih konkret: bagaimana negara dan perusahaan menggunakan ukuran yang sama untuk menentukan kemampuan, risiko, dan insiden pada model paling canggih.

Tanpa standar bersama, definisi insiden, metode evaluasi, dan kewajiban pelaporan dapat berbeda antarnegara. Kondisi tersebut dapat menyulitkan koordinasi ketika model AI dikembangkan di satu negara tetapi digunakan secara global.

OpenAI mengusulkan AS memimpin proses tersebut dengan memanfaatkan lembaga keamanan AI yang sudah ada dan bekerja bersama organisasi standardisasi, pengembang model terbuka maupun tertutup, akademisi, serta pakar independen.

Namun, usulan ini masih berupa kerangka yang diajukan OpenAI, bukan kesepakatan internasional atau regulasi global yang telah berlaku. Implementasinya akan bergantung pada koordinasi antarnegara serta keputusan masing-masing pemerintah mengenai penerapan standar tersebut dalam hukum nasional.

Dengan AI kini masuk ke agenda PBB dan dialog AS-China, perkembangan berikutnya akan menunjukkan apakah dorongan perusahaan teknologi untuk membangun standar bersama dapat berkembang menjadi mekanisme internasional yang lebih formal.