Apate, perusahaan asal Australia, mengembangkan dan mengoperasikan bot AI yang memperpanjang panggilan telepon dan percakapan pesan dengan penipu. Bot ini berpura-pura menjadi korban untuk menghabiskan waktu penipu, sembari mengumpulkan informasi seperti situs penipuan dan tujuan pengiriman uang.
Jangan tutup telepon penipuan agar waktu penipu tersita
Telepon mencurigakan sebaiknya langsung diputus. Itulah langkah aman bagi manusia, tetapi AI Apate menjalankan peran sebaliknya. Bot ini tidak menuruti penipuan, tetapi menunjukkan cukup banyak minat agar penipu terdorong untuk terus membujuknya, sehingga percakapan berlangsung lebih lama.
Waktu yang menjadi sasaran adalah waktu yang seharusnya digunakan penipu untuk menghubungi orang berikutnya. Berbeda dari langkah perlindungan yang memblokir panggilan masuk untuk melindungi pengguna, pendekatan ini berupaya menghambat pekerjaan pihak yang melancarkan penipuan. Namun, lamanya percakapan tidak serta-merta menunjukkan besarnya pengurangan kerugian.
Pendiri sekaligus CEO Dali Kaafar mengatakan, panggilan dengan bot yang berlangsung lebih dari dua jam bukan hal yang langka. Bot memiliki kepribadian, kemampuan berbahasa, dan persona yang berbeda-beda. Bot tidak hanya menjawab telepon, tetapi terkadang juga mengatakan akan berbicara nanti lalu menutup panggilan. Tidak selalu memberikan respons yang sama merupakan salah satu cara agar bot tidak mudah dikenali sebagai AI.
Rancangan percakapan yang curiga, tetapi tetap mendengarkan
Kunci dialognya bukan berpura-pura menjadi orang yang memercayai segala hal. Bot menunjukkan kecurigaan, tetapi tidak langsung mengakhiri percakapan, sehingga penipu merasa masih bisa membujuknya. Dengan bergantian menunjukkan kewaspadaan dan minat, bot dirancang agar lawan bicara terus memberikan penjelasan.
Saat WIRED mencoba demo publik dengan berpura-pura menjadi penipu, AI tersebut tidak mau berinvestasi meski ditawari investasi aset kripto fiktif selama sekitar enam menit. Dalam pengujian itu, jeda respons dan alur percakapannya dinilai alami. Namun, ini adalah pengalaman menggunakan demo, bukan uji coba untuk mengukur seberapa efektif bot mencegah penipuan nyata.
Situs penipuan dan tujuan pengiriman uang yang dikumpulkan dari percakapan
Pengumpulan informasi adalah tujuan lainnya. Jika lawan bicara terus membujuk, informasi yang digunakan untuk menjalankan penipuan—seperti URL tujuan dan rekening untuk transfer—akan muncul dalam percakapan. Jadi, bot tidak hanya membuang waktu penipu, tetapi juga mengubah interaksi itu menjadi bahan penyelidikan.
Kaafar menyebut jumlah sekitar 350 ribu bot dan lebih dari 250 ribu informasi yang telah dikumpulkan. Informasi tersebut mencakup URL situs penipuan, rekening yang digunakan untuk memindahkan dana, serta detail terkait perbankan. Angka-angka ini berasal dari pihak perusahaan dan belum diverifikasi secara independen.
Aktivitas bot tidak terbatas pada panggilan telepon. Bot juga merespons pesan teks dan dilaporkan menyusup ke grup obrolan penipuan daring. Layanan ini digunakan oleh bank dan mendapat dukungan perusahaan telekomunikasi. Namun, materi yang disediakan tidak menyebutkan pihak yang secara spesifik telah mengadopsinya ataupun jumlah rekening dan situs yang telah ditutup berkat informasi yang dikumpulkan.
AI yang menahan penyerang juga digunakan pada sistem umpan palsu
Teknik sengaja menarik penyerang untuk mengamati tindakan mereka telah lama digunakan dalam pertahanan siber. Salah satu contohnya adalah honeypot. Sistem yang dibuat agar tampak nyata ini digunakan untuk mempelajari cara penyusup beraksi atau menyita waktu mereka.
Mark Vero, peneliti doktoral di ETH Zürich, dan rekan-rekannya meneliti honeypot yang dilengkapi model bahasa besar untuk menangani tugas seperti menghasilkan teks. Dalam penelitian yang dipaparkan, agen AI yang melakukan serangan bertahan lebih lama ketika berinteraksi dengan honeypot tersebut dibandingkan dengan sistem yang responsnya mudah diprediksi. Agen-agen itu juga lebih jarang menganggapnya sebagai umpan.
Apate membuat percakapan yang terdengar seperti percakapan manusia, sedangkan sistem ini membuat respons yang terdengar seperti respons sistem sungguhan. Keduanya sama-sama menggunakan AI bukan hanya untuk mendeteksi perilaku mencurigakan, tetapi juga untuk berinteraksi langsung dengan lawan bicara. Namun, penelitian ini menargetkan AI di sisi penyerang, sehingga hasilnya tidak bisa disamakan dengan efektivitas terhadap penipu manusia.
Rekam jejak panggilan panjang berbeda dengan bukti pengurangan kerugian
Untuk mengevaluasi langkah ini, durasi percakapan dan jumlah bot saja tidak cukup. Perlu dipastikan secara terpisah seberapa jauh pekerjaan penipu terhambat, apakah informasi yang dikumpulkan berujung pada penutupan rekening atau situs, dan apakah kerugian pada akhirnya berkurang.
Jika bank, perusahaan telekomunikasi, penyedia media sosial, dan lembaga penegak hukum dapat berbagi informasi, petunjuk dari percakapan berpotensi digunakan untuk mendukung langkah pencegahan lainnya. Namun, pihak penipu juga menggunakan panggilan otomatis dalam jumlah besar dan pusat operasi yang terorganisasi. Karena itu, memancing beberapa penipu agar mengobrol lama belum tentu cukup untuk menghentikan seluruh aktivitas mereka.
Materi yang disediakan menunjukkan skala operasional Apate, jumlah informasi yang dikumpulkan, serta contoh percakapan berdurasi panjang. Namun, materi tersebut tidak memuat data tentang persentase penurunan kerugian ataupun seberapa besar tingkat keberhasilan penipuan berkurang.
コメント