Das australische Unternehmen Apate entwickelt und betreibt einen KI-Bot, der Telefonate und Nachrichtenwechsel mit Betrügern in die Länge zieht. Dabei gibt er sich als Opfer aus, bindet die Zeit seines Gegenübers und sammelt Informationen über betrügerische Websites, Empfänger von Überweisungen und Ähnliches.
Betrügern Zeit stehlen, statt Betrugsanrufe zu beenden
Bei verdächtigen Anrufen sofort aufzulegen, ist für Menschen die sicherste Reaktion. Apates KI übernimmt die gegenteilige Rolle: Sie lässt sich nicht auf den Betrug ein, zeigt aber genug Interesse, damit der Anrufer seine Masche weiterverfolgen möchte, und zieht das Gespräch in die Länge.
Das Ziel ist die Zeit, die Betrüger sonst für ihr nächstes Opfer aufwenden würden. Anders als Maßnahmen, die Anrufe blockieren und Nutzer schützen, soll dieser Ansatz die Arbeit der Betrüger behindern. Allerdings entspricht die Zeit, um die ein Gespräch verlängert wird, nicht automatisch dem Umfang der verhinderten Schäden.
Der Gründer und CEO Dali Kaafar erklärt, dass Telefonate mit dem Bot nicht selten länger als zwei Stunden dauern. Die Bots haben unterschiedliche Persönlichkeiten, Sprachkenntnisse und Rollenprofile. Sie nehmen nicht nur Anrufe entgegen, sondern legen manchmal auch mit der Ankündigung auf, später weiterzusprechen. Nicht immer gleich zu reagieren, ist eine der Methoden, mit denen die KI schwerer zu durchschauen sein soll.
Gesprächsführung zwischen Misstrauen und Interesse
Entscheidend ist, nicht einfach eine Person zu spielen, die alles glaubt. Die KI lässt Zweifel erkennen, bricht das Gespräch aber nicht ab und gibt dem Betrüger so Anlass zu glauben, er könne sein Gegenüber noch überzeugen. Indem sie zwischen Vorsicht und Interesse wechselt, bringt sie den Anrufer dazu, weiter zu erklären.
Als WIRED eine öffentliche Demo in der Rolle eines Betrügers ausprobierte, empfahl die KI rund sechs Minuten lang eine fiktive Kryptowährungsanlage, ließ sich aber nicht zu einer Investition bewegen. Bei dem Test wurden das Timing der Antworten und der Gesprächsfluss als natürlich bewertet. Es handelte sich jedoch um eine Demo und nicht um einen Test, der ermittelte, wie viele echte Betrugsfälle sich verhindern lassen.
Betrügerische Websites und Zahlungsempfänger aus Gesprächen ermitteln
Ein weiteres Ziel ist die Informationsbeschaffung. Wenn der Gesprächspartner seine Masche weiterverfolgt, kommen dabei etwa die URL der Website, auf die er sein Opfer lotsen will, oder die Kontodaten für eine Überweisung zur Sprache. Der Ansatz soll also nicht nur Zeit verschwenden, sondern den Austausch auch als Grundlage für Ermittlungen nutzen.
Kaafar zufolge umfasst das Netzwerk rund 350.000 Bots, die mehr als 250.000 Informationen gesammelt haben. Dazu gehören URLs betrügerischer Websites, Konten für Geldtransfers und Bankdaten. Diese Zahlen stammen vom Unternehmen und wurden nicht unabhängig überprüft.
Die Bots beschränken sich nicht auf Telefonate. Sie reagieren auch auf Textnachrichten und sollen sich zudem in Online-Chatgruppen von Betrügern einschleusen. Banken nutzen den Dienst, außerdem wird er von Telekommunikationsunternehmen unterstützt. Die bereitgestellten Informationen nennen jedoch weder konkrete Nutzer noch die Zahl der Konten oder Websites, die mithilfe der gesammelten Daten gesperrt wurden.
KI, die Angreifer hinhält – auch in gefälschten Systemen
Angreifer gezielt anzulocken und ihr Verhalten zu beobachten, ist eine in der Cyberabwehr seit Langem eingesetzte Methode. Ein bekanntes Beispiel sind Honeypots: Systeme, die echt wirken und Eindringlinge dazu verleiten sollen, ihre Vorgehensweise offenzulegen oder Zeit zu verlieren.
Mark Vero, Doktorand an der ETH Zürich, und seine Kolleginnen und Kollegen erforschen Honeypots mit großen Sprachmodellen, die etwa Texte generieren. In der vorgestellten Studie blieben KI-Agenten, die Angriffe ausführten, länger involviert als bei einem System mit vorhersehbaren Antworten. Außerdem stuften sie die Systeme seltener als Köder ein.
Während Apate menschlich wirkende Gespräche erzeugt, geht es bei diesem Ansatz darum, Antworten eines glaubwürdigen Systems zu erzeugen. Gemeinsam ist beiden, dass KI nicht nur dazu dient, verdächtiges Verhalten zu erkennen, sondern direkt in der Interaktion mit dem Gegenüber eingesetzt wird. Die Studie untersuchte allerdings KI auf Angreiferseite; ihre Ergebnisse lassen sich nicht mit der Wirkung auf menschliche Betrüger gleichsetzen.
Lange Gespräche sind kein Beleg für weniger Schäden
Um die Wirksamkeit dieser Maßnahme zu beurteilen, reichen Gesprächsdauer und Anzahl der Bots nicht aus. Es muss getrennt untersucht werden, wie stark sie die Arbeit der Betrüger behindert, ob die gesammelten Informationen zur Sperrung von Konten oder Websites führen und ob dadurch letztlich die Schäden zurückgehen.
Wenn Banken, Telekommunikationsunternehmen, soziale Netzwerke und Ermittlungsbehörden Informationen austauschen können, lassen sich Hinweise aus den Gesprächen möglicherweise für weitere Gegenmaßnahmen nutzen. Betrüger setzen jedoch ebenfalls auf automatisierte Massenanrufe und organisierte Standorte. Einzelne Anrufer lange am Telefon zu halten, wird daher nicht zwangsläufig das gesamte System zum Erliegen bringen.
Die bereitgestellten Informationen belegen den Umfang des Betriebs von Apate, die Zahl der gesammelten Informationen und Beispiele für besonders lange Gespräche. Daten dazu, um wie viel die Schadenssumme oder die Erfolgsquote von Betrugsversuchen gesunken ist, enthält das Material nicht.
コメント