L’australiana Apate sviluppa e gestisce bot IA che prolungano le telefonate e gli scambi di messaggi con i truffatori. Il sistema raccoglie informazioni come i siti fraudolenti e i destinatari dei bonifici, mentre finge di essere una vittima e fa perdere tempo agli interlocutori.
Tenere al telefono i truffatori per far perdere loro tempo
Di fronte a una chiamata sospetta, la misura di sicurezza per una persona è riattaccare subito. L’IA di Apate svolge il ruolo opposto: non abbocca alla truffa, ma mostra abbastanza interesse da indurre l’interlocutore a continuare a cercare di convincerla, prolungando così la conversazione.
Il tempo che si cerca di sottrarre è quello che i truffatori avrebbero impiegato per contattare la prossima vittima. A differenza delle misure che proteggono gli utenti bloccando le chiamate, l’idea è ostacolare il lavoro di chi mette in atto la truffa. Tuttavia, la durata della conversazione non corrisponde automaticamente alla riduzione dei danni.
Il fondatore e CEO Dali Kaafar spiega che non è raro che le chiamate con i bot durino più di due ore. I bot hanno personalità, capacità linguistiche e profili differenti: non si limitano a rispondere al telefono, ma a volte riattaccano dicendo che parleranno più tardi. Anche evitare di comportarsi sempre allo stesso modo è un accorgimento per rendere più difficile capire che si tratta di un’IA.
Un dialogo progettato per ascoltare, pur mostrando diffidenza
Il punto chiave del dialogo non è interpretare il ruolo di una persona che crede a tutto. Il bot mostra di avere dei dubbi, ma non interrompe la conversazione, lasciando al truffatore l’impressione di poter ancora convincere l’interlocutore. Il sistema è progettato per farlo continuare a spiegarsi, alternando cautela e interesse.
Quando WIRED ha provato una demo pubblica nei panni di un truffatore, l’IA non ha accettato di investire, nonostante il tentativo di promuovere per circa sei minuti un investimento fittizio in criptovalute. Durante la prova, i tempi di risposta e l’andamento della conversazione sono stati giudicati naturali. Si è trattato però di una demo, non di un test volto a misurare quante truffe si possano effettivamente prevenire.
Siti fraudolenti e destinatari dei bonifici raccolti durante le conversazioni
Un altro obiettivo è raccogliere informazioni. Se l’interlocutore continua il tentativo di convincere la vittima, nella conversazione possono emergere URL di siti a cui viene indirizzata e coordinate per i bonifici, cioè informazioni utili per mettere in atto la truffa. Così, oltre a far perdere tempo, lo scambio diventa materiale per le indagini.
Kaafar parla di circa 350.000 bot e di oltre 250.000 dati raccolti. Tra le informazioni figurano URL di siti fraudolenti, conti utilizzati per trasferire denaro e dettagli bancari. Si tratta di cifre fornite dall’azienda, non di risultati verificati in modo indipendente.
L’attività non si limita alle telefonate. I bot rispondono ai messaggi di testo e, secondo quanto riferito, si infiltrano anche nelle chat di gruppi online dediti alle truffe. Il servizio è utilizzato da banche e riceve anche il sostegno di società di telecomunicazioni. I materiali forniti, tuttavia, non indicano quali siano i clienti specifici né quanti conti o siti siano stati bloccati grazie alle informazioni raccolte.
L’IA che trattiene gli aggressori anche nei sistemi-esca
Attirare deliberatamente gli aggressori e osservarne le azioni è una tecnica utilizzata da tempo nella difesa informatica. Un esempio tipico è l’honeypot: si predispone un sistema che sembra autentico per studiare le tecniche degli intrusi o far loro perdere tempo.
Mark Vero, ricercatore dottorando al Politecnico federale di Zurigo, e i suoi colleghi studiano honeypot che integrano modelli linguistici di grandi dimensioni, utilizzati per generare testi e svolgere altre funzioni. Nello studio presentato, rispetto ai sistemi con risposte prevedibili, gli agenti IA che conducevano gli attacchi sono rimasti coinvolti più a lungo e hanno identificato meno spesso l’esca.
Mentre Apate crea conversazioni simili a quelle umane, quest’altra soluzione genera risposte di sistema realistiche. L’aspetto comune è che l’IA non viene usata semplicemente per rilevare comportamenti sospetti, ma per interagire direttamente con l’interlocutore. Lo studio, tuttavia, riguarda le IA che conducono gli attacchi e i suoi risultati non possono essere equiparati all’efficacia contro i truffatori umani.
Le telefonate lunghe e la riduzione dei danni sono risultati distinti
Per valutare questa misura non bastano la durata delle conversazioni e il numero di bot. Occorre verificare separatamente quanto ostacoli il lavoro degli interlocutori, se le informazioni raccolte portino al blocco di conti o siti e se, in definitiva, i danni diminuiscano.
Se banche, società di telecomunicazioni, piattaforme social e forze dell’ordine potessero condividere le informazioni, gli indizi emersi dalle conversazioni potrebbero contribuire ad altre misure di contrasto. D’altra parte, i truffatori ricorrono anche a chiamate automatizzate su larga scala e a basi operative organizzate: intrattenere a lungo al telefono alcuni interlocutori potrebbe non bastare a fermare il fenomeno nel suo complesso.
I materiali forniti riportano le dimensioni dell’attività di Apate, il numero di informazioni raccolte e alcuni esempi di conversazioni prolungate. Non presentano dati sulla percentuale di riduzione delle perdite né su quanto sia diminuito il tasso di successo delle truffe.
コメント