Altman memaparkan tiga jalur untuk keamanan AI, mengusulkan batas kecepatan bagi AI yang memperbaiki dirinya sendiri

CEO OpenAI Sam Altman dilaporkan membahas tiga “titik akhir” untuk mengembangkan AI dengan aman dalam sebuah ceramah bagi karyawan pekan lalu.

Ketiga opsi itu adalah membentuk badan pengawas internasional, menggabungkan laboratorium-laboratorium utama, atau membiarkan satu laboratorium melaju sendiri. Ia disebut menyebut tahap memilih arah dalam waktu satu tahun sebagai “pacing 2.0” dan mengatakan bahwa pengembangan diri AI memerlukan batas kecepatan atau titik penghentian.

Hari ketika pemeriksaan sebelum peluncuran tak lagi cukup

Saat ini, langkah pengamanan OpenAI adalah merilis model setelah model tersebut lolos uji keamanan dan memberi tahu publik jika ada hal yang perlu dikhawatirkan. Altman disebut menyebut pendekatan ini “pacing 1.0”. Ibarat mobil, metode ini seperti memeriksa mobil yang sudah selesai dibuat sebelum dikirim, lalu membawanya ke jalan jika tidak ditemukan masalah.

Namun, situasinya berubah ketika AI mulai memperbaiki dirinya sendiri. Persoalannya bukan lagi sekadar mengirimkan satu mobil yang sudah lolos pemeriksaan, tetapi juga bagaimana menangani laju evolusi mobil itu sendiri. Tahap berikutnya yang disebut “pacing 2.0” tepat menyangkut persoalan ini.

Tiga opsi menggambarkan bentuk tata kelola yang sangat berbeda

Ketiga opsi itu jelas berbeda dalam hal siapa yang memegang kendali atas pengembangan AI. Mari kita uraikan perbedaannya.

Opsi pertama adalah membentuk badan pengawas global seperti Badan Tenaga Atom Internasional (IAEA). Altman disebut mendukung opsi ini, dan OpenAI telah menyerukan perlunya kerangka semacam itu sejak 2023.

Opsi kedua disebut “Demis plan”, merujuk pada Demis Hassabis, salah satu pendiri DeepMind. Opsi ini menyatukan laboratorium-laboratorium utama untuk melakukan riset bagi negara-negara yang berpartisipasi. Mekanismenya dijelaskan mirip dengan CERN, organisasi penelitian fisika partikel di Eropa.

Opsi ketiga adalah skenario yang mengambil nama peneliti AI Eliezer Yudkowsky. Dalam skenario ini, satu laboratorium unggul dengan menggunakan AI yang mampu memperbaiki dirinya sendiri, hingga tertinggalnya laboratorium lain digambarkan sedemikian jauh sampai GPU mereka “meleleh”. Altman disebut menyebut skenario ini “mengerikan”.

Hal-hal yang tampak saat ketiga opsi disandingkan

Badan pengawas bisa diringkas sebagai opsi “menetapkan aturan dari luar”, penggabungan laboratorium sebagai opsi “memusatkan sumber daya riset di satu tempat”, dan keunggulan satu laboratorium sebagai opsi “menyerahkan kendali kepada pemenang persaingan”. Ketiganya sama-sama bertujuan mewujudkan masa depan yang aman, tetapi berbeda dalam hal siapa yang memegang kewenangan.

Secara pribadi, saya merasa bahwa opsi ketiga paling berpotensi menjadi kenyataan, dan itulah yang mengkhawatirkan. Jika persaingan terus berlangsung tanpa keputusan apa pun, itulah tujuan yang akan tercapai dengan sendirinya. Mungkin karena itu Altman menggunakan kata-kata paling keras untuk menggambarkan opsi tersebut.

Pertanyaannya: siapa yang menetapkan batas kecepatan?

Altman disebut mengatakan bahwa pilihan arah perlu dibuat dalam waktu satu tahun dan bahwa isinya harus mencakup “batas kecepatan” atau titik penghentian bagi AI yang mampu memperbaiki dirinya sendiri. Ibaratnya, kita hendak menambahkan rancangan rem pada mobil yang hanya punya pedal gas.

Persoalannya, siapa yang akan menginjak rem itu? Apakah kewenangan akan diberikan kepada badan pengawas, atau laboratorium-laboratorium akan digabung menjadi satu? Opsi mana pun tidak akan berhasil jika semua pemain utama tidak duduk bersama di meja perundingan. Gambaran semua laboratorium berkumpul di bawah satu atap seperti dalam film superhero memang menarik, tetapi, sebagaimana yang terjadi pada kesepakatan internasional sebelumnya, mengajak semua pihak untuk bergabung tampaknya akan menjadi tantangan terbesar.

Arah yang sejalan dengan pernyataan pesaing

Pada waktu yang hampir bersamaan, Jack Clark dari Anthropic dilaporkan menyinggung gagasan untuk menetapkan batas atas kecerdasan dan mengatakan bahwa waktu untuk bertindak demi keselamatan hanya “tinggal beberapa tahun”. Para eksekutif dari dua perusahaan yang bersaing sama-sama menyuarakan kekhawatiran yang serupa.

Ketika para pesaing mulai membicarakan persoalan yang sama, diskusi bisa bergerak dari tataran prinsip ke tahap pelaksanaan. Namun, sejauh ini OpenAI belum secara resmi mengadopsi opsi mana pun; semuanya masih sebatas gagasan. Apakah tenggat satu tahun itu akan menjadi jam yang menggerakkan diskusi di seluruh industri? Hal ini patut dicermati.