A australiana Apate desenvolve e opera bots de IA que prolongam chamadas e trocas de mensagens com burlões. Fazem-se passar por vítimas para lhes consumir tempo e, ao mesmo tempo, recolher informações como sites fraudulentos e dados para transferências.
Manter a chamada com os burlões para lhes roubar tempo
Perante uma chamada suspeita, o mais seguro para uma pessoa é desligar de imediato. A IA da Apate faz o contrário. Não cede à burla, mas demonstra interesse suficiente para levar o interlocutor a continuar a tentar convencê-la, prolongando assim a conversa.
O objetivo é ocupar o tempo que o burlão usaria para contactar a próxima vítima. Ao contrário das medidas que protegem os utilizadores bloqueando chamadas recebidas, esta abordagem procura dificultar o trabalho de quem tenta aplicar a burla. No entanto, o tempo gasto a prolongar uma conversa não corresponde, por si só, à redução dos prejuízos.
O fundador e CEO, Dali Kaafar, explica que não é invulgar as chamadas com os bots durarem mais de duas horas. Os bots têm personalidades, competências linguísticas e perfis diferentes. Não se limitam a atender o telefone: por vezes, dizem que falarão mais tarde e desligam. Não reagir sempre da mesma forma é também uma maneira de tornar mais difícil perceber que se trata de IA.
Conversas concebidas para mostrar desconfiança, mas continuar a ouvir
O essencial da conversa não é fingir ser alguém que acredita em tudo. A pessoa mostra desconfiança, mas não interrompe o diálogo, deixando ao burlão a ideia de que ainda o pode convencer. A estratégia é alternar entre cautela e interesse para o levar a continuar a explicar-se.
Quando a WIRED experimentou uma demonstração pública fazendo-se passar por burlão, a IA recusou investir, mesmo depois de lhe terem recomendado durante cerca de 6 minutos um investimento fictício em criptomoedas. Na avaliação, o ritmo das respostas e o desenrolar da conversa foram considerados naturais. No entanto, tratou-se de uma demonstração, não de um teste que medisse quantas burlas reais consegue prevenir.
Sites fraudulentos e dados para transferências recolhidos nas conversas
A recolha de informações é outro objetivo. Se o interlocutor continuar a tentar convencer a vítima, a conversa pode revelar dados usados para concretizar a burla, como o URL para onde a quer encaminhar ou a conta para onde deve transferir dinheiro. Assim, além de lhe fazer perder tempo, a Apate transforma a conversa em material para investigação.
Kaafar refere cerca de 350 mil bots e mais de 250 mil elementos de informação recolhidos. Entre esses dados estão URLs de sites fraudulentos, contas usadas para transferir fundos e outros detalhes bancários. Estes números foram divulgados pela própria empresa e não resultam de uma verificação independente.
A atividade não se limita às chamadas telefónicas. Segundo a empresa, os bots respondem a mensagens de texto e também se infiltram em grupos de chat online usados para burlas. O serviço é utilizado por bancos e conta com o apoio de empresas de telecomunicações. No entanto, os materiais disponibilizados não indicam clientes concretos nem quantas contas ou sites foram encerrados graças às informações recolhidas.
A IA que mantém os atacantes ocupados também é usada em sistemas falsos
A técnica de atrair deliberadamente atacantes para observar o seu comportamento já é usada há muito tempo na cibersegurança. Um exemplo conhecido é o honeypot: prepara-se um sistema que parece real para estudar os métodos de quem nele se infiltra ou fazê-lo perder tempo.
Mark Vero, investigador de doutoramento na ETH Zurique, e os seus colegas estão a estudar honeypots que incorporam modelos de linguagem de grande dimensão, responsáveis, por exemplo, pela geração de texto. No estudo apresentado, os agentes de IA que realizavam ataques mantiveram-se envolvidos durante mais tempo do que em sistemas com respostas previsíveis e, com menor frequência, perceberam que se tratava de um chamariz.
Enquanto a Apate procura criar conversas que pareçam humanas, esta abordagem cria respostas que fazem um sistema parecer genuíno. O que têm em comum é o uso da IA não apenas para detetar comportamentos suspeitos, mas também na própria interação com o interlocutor. No entanto, o estudo incide sobre IA usada para atacar e os seus resultados não podem ser equiparados aos efeitos junto de burlões humanos.
Resultados em chamadas longas não são o mesmo que redução das burlas
Para avaliar esta medida, não basta contabilizar a duração das conversas ou o número de bots. É preciso apurar separadamente até que ponto dificultou o trabalho dos burlões, se as informações recolhidas levaram ao encerramento de contas ou sites e se, no fim, os prejuízos diminuíram.
Se bancos, empresas de telecomunicações, plataformas de redes sociais e autoridades de investigação puderem partilhar informações, as pistas obtidas nas conversas poderão contribuir para outras medidas. Por outro lado, os burlões também recorrem a chamadas automatizadas em grande escala e a estruturas organizadas, pelo que manter alguns deles ocupados numa chamada longa não basta necessariamente para travar a atividade no seu conjunto.
Os materiais disponibilizados indicam a dimensão das operações da Apate, o número de elementos de informação recolhidos e exemplos de conversas longas. Não apresentam dados sobre a percentagem de redução dos prejuízos nem sobre quanto diminuiu a taxa de sucesso das burlas.
コメント