Anthropic mengumumkan penurunan 90–99% dalam jumlah informasi penalaran Claude yang berhasil diekstrak melalui serangan

Anthropic mengatakan telah memperkuat perlindungan terhadap upaya mengambil informasi dalam jumlah besar yang menunjukkan proses penalaran asisten AI Claude (token penalaran), sehingga jumlah yang berhasil diekstrak berkurang 90–99%. Selain membatasi akses ke informasi penalaran, perusahaan itu juga mengoperasikan pengklasifikasi untuk mendeteksi tanda-tanda ekstraksi dan menerapkan mekanisme yang otomatis menangguhkan akun terkait. Sejauh ini, puluhan ribu akun telah ditangguhkan.

Bagaimana mencegah akses massal ke Claude

Akar masalahnya adalah “distilasi”, yakni metode melatih model lain yang lebih kecil dengan menggunakan keluaran model AI yang kuat sebagai bahan pembelajaran. Pada dasarnya, ini merupakan teknik sah untuk membuat model sendiri lebih ringan. Namun, teknik ini juga dapat digunakan untuk mengajukan pertanyaan dalam jumlah besar kepada model milik pihak lain, lalu menyalin seluruh kemampuannya berdasarkan jawaban yang diberikan. Yang dipermasalahkan Anthropic adalah ekstraksi terorganisasi seperti yang disebut terakhir.

Menurut penjelasan perusahaan itu, pihak penyerang menggunakan jaringan yang terdiri atas ratusan ribu akun palsu. Setiap akun dibuat agar aktivitasnya tampak seperti pengguna biasa, sementara secara keseluruhan jaringan tersebut mengumpulkan jawaban dalam jumlah sangat besar. Taktik ini bisa dibilang bukan sekadar mengandalkan banyak orang, melainkan “taktik lautan akun”.

Sasaran mereka adalah token penalaran, yakni langkah-langkah pemikiran internal yang dilalui model untuk sampai pada jawaban. Jika bukan hanya jawaban akhir yang didapat, tetapi juga alur pemikirannya, model lain dapat diajari “cara berpikir”. Ibarat memasak, bukan cuma rasa hidangan jadi yang ditiru, melainkan seluruh petunjuk resepnya juga dibawa kabur.

Anthropic menerapkan tiga langkah utama. Pertama, membatasi akses ke langkah-langkah penalaran internal Claude. Kedua, menjalankan pengklasifikasi untuk mendeteksi upaya ekstraksi. Ketiga, otomatis menangguhkan akun yang dinilai mencurigakan.

Efektivitas dan keterbatasan perlindungan menurut angka

Anthropic menyatakan bahwa setelah perlindungan mulai beroperasi, jumlah token penalaran yang berhasil diekstrak turun 90–99%. Perusahaan itu juga mengatakan bahwa keberhasilan distilasi merosot tajam setelah langkah-langkah tersebut diterapkan. Angka rentangnya cukup lebar, tetapi klaimnya menunjukkan bahwa jumlah yang berhasil diekstrak telah ditekan hingga paling banyak sepersepuluh dari sebelumnya.

Ada satu efek samping lain yang tidak boleh diabaikan: perusahaan itu mengakui bahwa pengguna yang sah terkadang ikut terjaring oleh sistem deteksi. Semakin rapat jaring untuk menyaring penyalahgunaan, semakin besar pula kemungkinan pengguna atau perusahaan yang menggunakan layanan secara normal ikut terkena. Konsekuensi yang melekat pada langkah keamanan ini juga berlaku bagi layanan AI.

Pengembang yang menggunakan layanan secara intensif dan sistem kerja yang dilengkapi alat otomatisasi terkadang dapat menunjukkan perilaku yang mirip dengan tanda-tanda ekstraksi. Ke depannya, keseimbangan antara ketatnya langkah ant penyalahgunaan dan pengoperasian yang tidak menghambat penggunaan normal akan memengaruhi kemudahan layanan digunakan.

Apa arti tudingan yang menyebut nama perusahaan

Kali ini, Anthropic menyebut perusahaan China Zhipu (智譜) dan Moonshot sebagai pihak yang terlibat. Menurut klaim Anthropic, Zhipu mengambil kemampuan terkait siber dari model-model utama AS dan memanfaatkannya untuk GLM-5.3 miliknya. Sementara itu, Moonshot dituding diam-diam merutekan pertanyaan melalui Claude. Semua itu merupakan klaim Anthropic; pandangan kedua perusahaan tersebut tidak dapat dikonfirmasi dari materi yang disampaikan kali ini.

Anthropic juga menyinggung kemungkinan bahwa kemampuan yang diekstrak dengan cara ini dapat mengalir ke sistem militer atau sistem pengawasan negara asing. Yang menarik, perusahaan itu memosisikan masalah ini bukan sekadar sebagai peniruan demi kepentingan bisnis, tetapi juga sebagai persoalan keamanan nasional.

Dalam perkembangan lain, perusahaan itu menyerukan agar pengembang AI lainnya menerapkan langkah perlindungan serupa. Sebab, memperketat pertahanan di satu perusahaan saja tidak banyak berarti jika informasi tetap dapat dicuri melalui pintu masuk lain. Kemampuan industri untuk menyelaraskan langkah kini menjadi sorotan.

Persaingan AI generatif kian meluas: bukan lagi sekadar berlomba membuat model yang cerdas, tetapi juga berlomba mengenali dan mengendalikan siapa yang menggunakan model tersebut dan bagaimana caranya. Teknologi perlindungan yang kurang mencolok, seperti deteksi akun palsu dan pembatasan akses, tampaknya akan semakin menentukan daya saing perusahaan AI.