La australiana Apate desarrolla y opera bots de IA que prolongan las llamadas y los intercambios de mensajes con estafadores. El sistema hace que estos pierdan tiempo mientras los bots se hacen pasar por víctimas y recopila información como sitios web fraudulentos o cuentas de destino de las transferencias.
Quitar tiempo a los estafadores sin colgar la llamada
Ante una llamada sospechosa, lo más seguro para una persona es colgar enseguida. La IA de Apate desempeña el papel contrario. No accede a las peticiones del estafador, pero muestra suficiente interés como para que este quiera seguir intentando convencerla y alarga la conversación.
El objetivo es el tiempo que los estafadores habrían dedicado a su siguiente víctima. A diferencia de las medidas que protegen a los usuarios bloqueando las llamadas entrantes, esta idea busca entorpecer el trabajo de quienes perpetran la estafa. Sin embargo, el tiempo que se consigue prolongar una conversación no equivale directamente a la cantidad de daños evitados.
Dali Kaafar, fundador y consejero delegado, explica que no es raro que las llamadas con los bots superen las dos horas. Los bots tienen distintas personalidades, capacidades lingüísticas y perfiles ficticios; además de contestar al teléfono, a veces cuelgan diciendo que hablarán más tarde. No responder siempre del mismo modo es también una forma de evitar que los identifiquen como IA.
Un diálogo diseñado para mostrar dudas, pero seguir escuchando
La clave del diálogo no es interpretar a alguien que se cree cualquier cosa. La IA muestra desconfianza, pero no corta la conversación, y deja margen para que el estafador piense que «todavía puede convencer a la víctima». Al alternar entre cautela e interés, el sistema está diseñado para que el estafador siga dando explicaciones.
Cuando WIRED probó una demo pública haciendo de estafador, la IA rechazó invertir incluso después de que le recomendaran durante unos seis minutos una inversión ficticia en criptomonedas. En la prueba, se valoraron como naturales los tiempos de respuesta y el desarrollo de la conversación. No obstante, se trata de una experiencia en una demo, no de un ensayo que midiera hasta qué punto puede prevenir estafas reales.
Sitios fraudulentos y datos de destino de las transferencias recopilados en la conversación
Otro objetivo es recopilar información. Si el estafador sigue con su intento de convencer a la víctima, en la conversación pueden aparecer datos que se utilizan para cometer el fraude, como la URL a la que quiere dirigirla o la cuenta a la que pide que transfiera dinero. Así, el sistema no solo le hace perder tiempo, sino que convierte el intercambio en material para una investigación.
Kaafar habla de unos 350.000 bots y de más de 250.000 datos recopilados. Entre ellos hay URL de sitios fraudulentos, cuentas utilizadas para mover fondos y detalles relacionados con entidades bancarias. Son cifras facilitadas por la propia empresa, no resultados de una verificación independiente.
La actividad no se limita a las llamadas. Según la empresa, los bots responden a mensajes de texto y también se infiltran en grupos de chat en línea utilizados para estafas. El servicio se utiliza en bancos y cuenta con el apoyo de empresas de telecomunicaciones. Sin embargo, la información facilitada no identifica a los clientes concretos ni indica cuántas cuentas o sitios se han cerrado gracias a los datos recopilados.
La IA que retiene a los atacantes también se aplica a sistemas falsos
La técnica de atraer deliberadamente a los atacantes para observar su comportamiento se utiliza desde hace tiempo en ciberseguridad. Un ejemplo habitual es el honeypot. Consiste en preparar un sistema que parezca auténtico para investigar cómo actúan los intrusos o hacerles perder el tiempo.
Mark Vero, investigador doctoral de ETH Zurich, y sus colegas estudian honeypots que incorporan grandes modelos de lenguaje, encargados, entre otras cosas, de generar texto. En los estudios presentados, frente a sistemas cuyas respuestas eran previsibles, los agentes de IA atacantes permanecieron involucrados durante más tiempo y con menor frecuencia identificaron el señuelo.
Mientras Apate genera conversaciones que parecen humanas, este enfoque genera respuestas propias de un sistema auténtico. Ambos tienen en común que utilizan la IA no solo para detectar comportamientos sospechosos, sino también para interactuar directamente con el otro. Sin embargo, este estudio se centra en las IA atacantes y sus resultados no pueden equipararse a los efectos sobre estafadores humanos.
Las llamadas largas no equivalen a una reducción de los daños
Para evaluar esta medida no basta con conocer la duración de las conversaciones o el número de bots. Hay que comprobar por separado hasta qué punto se ha entorpecido el trabajo de los estafadores, si la información recopilada ha permitido cerrar cuentas o sitios y si, en última instancia, se han reducido los daños.
Si bancos, empresas de telecomunicaciones, redes sociales y fuerzas de seguridad pudieran compartir información, las pistas obtenidas en las conversaciones podrían servir para poner en marcha otras medidas. Por otro lado, los estafadores también recurren a llamadas automatizadas a gran escala y a centros de operaciones organizados, por lo que mantener al teléfono durante mucho tiempo a algunos de ellos no necesariamente basta para detener el fenómeno en su conjunto.
La información facilitada da cuenta de la escala de las operaciones de Apate, del número de datos recopilados y de casos de conversaciones prolongadas. No incluye datos sobre el porcentaje de reducción de las pérdidas económicas ni sobre cuánto ha disminuido la tasa de éxito de las estafas.
コメント