澳大利亚公司Apate开发并运营一种AI机器人，专门拉长与诈骗分子的通话或消息往来。它会假扮受害者，消耗对方的时间，同时收集诈骗网站、收款账户等信息。
不挂断诈骗电话，消耗对方时间
遇到可疑电话，立即挂断。这是人类保护自己的安全做法，但Apate的AI承担着相反的角色。它不会上当，却会表现出足以让对方继续推销的兴趣，从而拖长对话。
它瞄准的是诈骗分子原本可以用来联系下一个目标的时间。与拦截来电、保护用户的措施不同，这种做法旨在拖慢诈骗者的行动。不过，对话延长的时间并不能直接代表减少的受骗损失。
创始人兼CEO Dali Kaafar表示，机器人与诈骗分子的通话超过两小时也并不罕见。机器人有不同的性格、语言能力和人物设定；它们不只会接电话，有时也会说稍后再谈，然后挂断。不会每次都采取相同的应对方式，也是让人不容易识破其AI身份的方法之一。
会怀疑但仍愿意倾听的对话设计
对话设计的关键，不是扮演一个什么都相信的人。机器人会表现出怀疑，却不立即结束对话，给诈骗分子留下“还有机会说服对方”的空间。它在警惕与兴趣之间转换，让对方继续解释。
WIRED在公开演示中扮演诈骗分子进行测试时，AI面对虚构的加密货币投资推销，持续约6分钟也没有答应投资。测试者认为，它的应答节奏和对话流程都很自然。不过，这只是演示体验，并非衡量其实际能防止多少诈骗的测试。
从对话中收集诈骗网站和收款账户
另一个目标是收集信息。如果对方继续推销，诈骗所用的信息——例如引导受害者访问的网址或汇款账户——就会出现在对话中。它不仅消耗对方的时间，还会将这段交流转化为调查线索。
Kaafar介绍称，系统规模约为35万个机器人，收集到的信息超过25万条。其中包括诈骗网站网址、用于转移资金的账户以及银行相关详情。这些数字由该公司提供，并非独立验证的结果。
其活动范围不限于电话。据称，机器人会回复短信，也会潜入网上的诈骗聊天群组。这项服务已被银行采用，并获得电信公司的支持。另一方面，所提供的资料没有列出具体的采用方，也没有说明有多少账户或网站因所收集的信息而被关闭。
诱使攻击者上钩的AI也被用于伪装系统
故意吸引攻击者并观察其行为，是网络安全防御领域早已采用的手法。典型例子就是蜜罐：搭建看似真实的系统，调查入侵者的手法，或让他们耗费时间。
苏黎世联邦理工学院博士生研究员Mark Vero等人正在研究融入了大型语言模型的蜜罐，这类模型负责文本生成等任务。据介绍，与响应模式容易预测的机制相比，攻击者使用的AI智能体会更长时间地参与互动，也更少判定自己面对的是诱饵。
Apate的目标是生成像人类一样的对话，而这项研究的目标是生成看起来真实的系统响应。两者的共同点在于，不只是用AI检测可疑行为，而是让AI直接参与与对方的互动。不过，这项研究针对的是攻击方的AI，不能等同于对人类诈骗分子的效果。
通话时间长，不等于成功减少了损失
评估这类措施，光看对话时长或机器人数量还不够。还需要分别核实它在多大程度上妨碍了对方的行动、收集到的信息是否促成账户或网站被关闭，以及最终是否减少了受骗损失。
如果银行、电信公司、社交媒体平台和执法机构能够共享信息，对话中获得的线索就有可能用于其他防范措施。另一方面，诈骗分子也会利用大规模自动拨号和有组织的据点；仅仅让部分人陷入长时间通话，未必能阻止整个诈骗网络。
所提供的资料展示了Apate的运营规模、收集信息的数量以及长时间对话的案例，但没有提供受骗金额下降比例或诈骗成功率降低幅度的数据。
コメント