澳洲 Apate 開發並營運 AI 機器人，讓與詐騙者的通話或訊息往來持續更久。機器人會假扮受害者，消耗對方時間，同時蒐集詐騙網站、匯款帳戶等資訊。
不掛斷詐騙電話，奪走對方時間
遇到可疑電話就立刻掛斷，這是人類的安全做法；Apate 的 AI 卻扮演相反角色。它不會配合詐騙，但會表現出足以讓對方想繼續推銷的興趣，藉此延長對話。
Apate 瞄準的是詐騙者原本會用來聯絡下一個目標的時間。這與封鎖來電、保護使用者的做法不同，目的是拖慢詐騙者的行動。不過，延長對話的時間，不代表受害程度就等量減少。
創辦人兼執行長 Dali Kaafar 表示，機器人與詐騙者通話超過兩小時並不罕見。機器人具備不同的性格、語言能力和人物設定；它們不只會接聽電話，有時也會表示稍後再談，然後掛斷。避免每次都採取相同應對方式，也是降低被識破為 AI 的方法之一。
一種既抱持懷疑、又繼續聽下去的對話設計
對話設計的關鍵，不是扮演什麼都相信的人。機器人會流露懷疑，卻不會立即結束對話，讓詐騙者仍覺得「還有機會說服對方」。透過在警戒與感興趣之間拿捏，讓對方繼續解釋。
WIRED 曾以詐騙者身分試用公開展示版，花約 6 分鐘推銷虛構的加密貨幣投資，但 AI 並未答應投資。測試者認為，它回應的節奏和對話流程相當自然。不過，這只是體驗展示版，並非衡量它能防止多少實際詐騙的測試。
從對話中蒐集詐騙網站與匯款帳戶
另一個目的是蒐集資訊。只要對方繼續推銷，詐騙過程中使用的資訊便會出現在對話裡，例如導向的網址或匯款帳戶。這項機制不只浪費詐騙者的時間，也把對話內容轉化為調查線索。
Kaafar 表示，系統規模約有 35 萬個機器人，蒐集到超過 25 萬筆資訊。內容包括詐騙網站網址、用於資金轉移的帳戶，以及銀行相關資料等。這些數字由該公司提供，並非經過獨立驗證的結果。
活動範圍不只限於電話。據稱，機器人也會回覆文字訊息，並加入線上的詐騙聊天群組。銀行已採用這項服務，電信業者也提供支援。另一方面，提供的資料並未列出具體採用機構，也沒有說明利用蒐集到的資訊停用多少帳戶或網站。
讓攻擊者留下來的 AI，也應用於偽造系統
刻意吸引攻擊者並觀察其行動，是網路防禦早已採用的手法，代表性例子就是蜜罐。防禦者會架設看似真實的系統，藉此調查入侵者的手法，或消耗其時間。
蘇黎世聯邦理工學院博士班研究員 Mark Vero 等人，正在研究導入大型語言模型的蜜罐，這類模型負責生成文字等內容。研究指出，與回應容易預測的系統相比，攻擊用 AI 代理會在這類蜜罐中停留更久，也較少判定它是誘餌。
Apate 生成的是人類般的對話；這項研究則生成看似真實系統的回應。兩者的共同點在於，不只是用 AI 偵測可疑行為，而是讓 AI 直接參與與對方的互動。不過，這項研究的對象是攻擊方的 AI，不能將其效果等同於對人類詐騙者的成效。
長時間通話的成果，不等於減少詐騙損害的成效
評估這項防禦措施，光看對話時間或機器人數量並不足夠。還需要分別確認它妨礙了詐騙者多少工作、蒐集到的資訊是否促成帳戶或網站停用，以及最終是否減少了受害情形。
如果銀行、電信業者、社群平台業者和執法機關能分享資訊，就有機會把對話取得的線索用於其他防禦措施。不過，詐騙集團也會大量自動撥號，並利用有組織的據點；即使讓部分詐騙者陷入長時間通話，也未必能阻止整體詐騙活動。
提供的資料呈現了 Apate 的營運規模、蒐集資訊的筆數，以及長時間對話的案例，但沒有列出受害金額減少的比例，或詐騙成功率降低多少的數據。
コメント