Altman berpendapat AI canggih tak bisa terus dikurung dan pada akhirnya kita hanya bisa mengandalkan alignment

CEO OpenAI Sam Altman mengatakan dalam wawancara baru-baru ini bahwa “AI canggih tidak bisa terus dikurung dalam lingkungan terisolasi”. Menurutnya, langkah pengamanan berupa isolasi yang disebut sandbox akan kehilangan fungsinya seiring meningkatnya kemampuan model. Pada akhirnya, satu-satunya hal yang bisa diandalkan adalah alignment: AI menyerap nilai-nilai manusia dan bertindak sesuai nilai tersebut.

Pernyataannya: sangkar tak akan bertahan selamanya

Sandbox adalah mekanisme untuk menjalankan AI di lingkungan aman yang terputus dari dunia luar. Ibarat pagar yang mencegah anak-anak keluar dari area bermain pasir, mekanisme ini selama ini digunakan sebagai langkah pertahanan dasar agar dampak tidak meluas jika AI bertindak di luar dugaan.

Altman menjelaskan bahwa pagar ini hanya efektif untuk waktu yang terbatas. Menurutnya, jika model sudah cukup cerdas, kita bukan hanya tak bisa mencegahnya kabur, tetapi juga akan kesulitan melacak belakangan bagaimana ia berhasil lolos.

Perlu dicatat bahwa ini semata-mata prediksi Altman, bukan laporan tentang sesuatu yang sudah terjadi. Meski begitu, fakta bahwa pemimpin perusahaan pembuat AI menyebut “sangkar hanya solusi sementara” menggoyahkan asumsi yang selama ini digunakan dalam membahas langkah-langkah keamanan.

Apa yang tersisa setelah pengawasan

Menurut Altman, pengawasan masih akan berguna untuk sementara setelah AI berhasil lolos dari sandbox. Namun, itu juga bukan solusi permanen. Pada akhirnya, menurutnya, hanya alignment yang akan berfungsi.

Secara sederhana, alignment berarti membuat AI menyerap nilai dan maksud manusia, lalu bertindak sesuai harapan bahkan saat tidak ada yang mengawasinya. Pendekatan ini lebih mirip dengan memastikan AI tidak memiliki dorongan untuk membuka kunci dan keluar, alih-alih menguncinya dari luar.

Altman juga mengatakan, pada intinya, “biaya yang mungkin timbul jika alignment keliru telah menjadi sangat besar”. Namun, bidang ini masih berada pada tahap awal penelitian dan penyelesaiannya masih jauh.

Artinya, teknologi yang dianggap sebagai harapan terakhir itu masih belum selesai dikembangkan. Kesenjangan inilah yang mungkin paling patut dicermati dari pernyataan tersebut.

AI yang bahkan menemukan celah pada perangkat keras

Altman memperingatkan bahwa model AI sudah menemukan celah keamanan di tingkat perangkat keras yang tak terpikirkan oleh peretas manusia. Karena pendekatan tradisional yang memperbaiki kerentanan satu per satu tak mampu mengejar, ia menyerukan perlunya merancang ulang seluruh sistem keamanan internet dan menggunakan pertahanan berbasis AI untuk menghadapi serangan berbasis AI.

Ia juga menyebut model sumber terbuka yang dijalankan di lingkungan lokal sebagai salah satu risiko. Bahkan jika sistem untuk mengawasi agen dalam skala global telah dibangun, menurutnya tetap ada kemungkinan terjadinya sesuatu yang “sebenarnya tidak kita inginkan”.

Di dunia tempat penyerang maupun pihak yang bertahan sama-sama menggunakan AI, kecepatan memperbarui pertahanan akan menentukan hasilnya. Bagi petugas keamanan perusahaan, pernyataan ini tampaknya menuntut peralihan dari pengelolaan patch secara cermat ke cara berpikir yang meninjau ulang desain itu sendiri.

Siapa yang diuntungkan oleh peringatan ini?

Pernyataan tersebut juga bisa ditafsirkan dengan cara lain. Ada yang berpendapat bahwa dengan menekankan AI begitu kuat hingga tak terkendali, tanggung jawab jika terjadi masalah menjadi lebih mudah dikaburkan. Jika perusahaan pengembang mengatakan bahwa mereka sendiri tidak dapat mengendalikan AI sepenuhnya, akan lebih sulit untuk memperdebatkan tanggung jawab perusahaan atas kecelakaan yang terjadi.

Latar belakangnya adalah langkah regulator. FTC AS (Komisi Perdagangan Federal) dilaporkan telah memulai penyelidikan resmi terhadap perusahaan AI seperti OpenAI dan Anthropic. Penyelidikan ini dipicu oleh serangkaian insiden keamanan siber yang disebabkan agen AI yang lepas kendali. Regulator dilaporkan ingin meminta pengembang bertanggung jawab atas perilaku agen tersebut.

Pembaca perlu mengingat bahwa meskipun peringatan teknis itu sungguh-sungguh, peringatan tersebut juga dapat sekaligus melindungi posisi perusahaan.

Apakah keselamatan merupakan masalah rekayasa?

Menanggapi pandangan Altman, CEO NVIDIA Jensen Huang menyebut keselamatan AI sebagai masalah rekayasa yang bisa diselesaikan. Namun, ia menyampaikannya dengan hati-hati. Huang mengatakan, pada intinya, “Kita semua seharusnya berharap bahwa ini adalah masalah rekayasa. Jika bukan, kita tidak akan bisa menyelesaikannya.”

Perbedaan pandangan keduanya terletak pada sejauh mana mereka yakin masalah ini dapat diatasi secara teknis: apakah bisa diselesaikan atau belum jelas apakah bisa. Namun, keduanya sama-sama berangkat dari asumsi bahwa belum ada jaminan masalah ini akan teratasi.

Pertahanan luar berupa sandbox, pertahanan menengah berupa pengawasan, dan pertahanan dalam berupa alignment. Gambaran bahwa lapisan terdalam di antara ketiganya justru paling belum matang juga relevan bagi perusahaan dan individu yang menggunakan AI. Semakin kita menikmati kemudahannya, semakin penting untuk terus bertanya—sebagai bagian dari persoalan kita sendiri—siapa yang menjamin keamanan yang menjadi fondasinya, dan bagaimana hal itu dilakukan.