ऑस्ट्रेलिया की Apate धोखेबाज़ों के साथ फोन कॉल और संदेशों की बातचीत लंबी खींचने वाला AI बॉट विकसित और संचालित करती है। यह पीड़ित होने का नाटक करते हुए सामने वाले का समय बर्बाद करता है और धोखाधड़ी वाली साइटों तथा पैसे भेजने के खातों की जानकारी जुटाता है।
धोखाधड़ी वाले फोन कॉल काटे बिना सामने वाले का समय बर्बाद करना
संदिग्ध फोन कॉल तुरंत काट देना इंसानों के लिए सुरक्षा का उपाय है, लेकिन Apate का AI इसके उलट काम करता है। वह धोखाधड़ी में शामिल नहीं होता, फिर भी इतनी दिलचस्पी दिखाता है कि सामने वाला अपनी बात जारी रखना चाहे और बातचीत लंबी खिंचती रहे।
निशाना उस समय पर है, जिसे धोखेबाज़ अपने अगले शिकार के लिए इस्तेमाल कर सकते थे। आने वाली कॉल रोककर उपयोगकर्ताओं की रक्षा करने के उपायों से अलग, इसका मकसद धोखाधड़ी करने वालों के काम में बाधा डालना है। हालांकि, बातचीत लंबी खिंचने में लगा समय अपने आप में नुकसान में कमी का संकेत नहीं है।
संस्थापक और CEO Dali Kaafar बताते हैं कि बॉट के साथ फोन कॉल का दो घंटे से ज़्यादा चलना भी असामान्य नहीं है। बॉट के व्यक्तित्व, भाषा कौशल और किरदार अलग-अलग होते हैं। वे सिर्फ फोन उठाते ही नहीं, बल्कि कभी-कभी यह कहकर कॉल काट देते हैं कि बाद में बात करेंगे। हर बार एक जैसा जवाब न देना भी AI के रूप में पहचान में आने से बचने का एक तरीका है।
संदेह जताते हुए भी बातचीत जारी रखने की रणनीति
इस संवाद का मुख्य पहलू ऐसे व्यक्ति का अभिनय करना नहीं है, जो हर बात पर भरोसा कर ले। बॉट संदेह तो जताता है, लेकिन बातचीत खत्म नहीं करता और धोखेबाज़ को यह सोचने की गुंजाइश देता है कि वह अभी भी उसे मना सकता है। सतर्कता और दिलचस्पी के बीच आते-जाते हुए, यह सामने वाले को अपनी बात समझाते रहने के लिए प्रेरित करता है।
जब WIRED ने धोखेबाज़ की भूमिका निभाकर सार्वजनिक डेमो आज़माया, तो करीब छह मिनट तक काल्पनिक क्रिप्टोकरेंसी निवेश की पेशकश के बावजूद AI ने निवेश करने की हामी नहीं भरी। परीक्षण में उसके जवाबों का समय और बातचीत का प्रवाह स्वाभाविक पाया गया। हालांकि, यह डेमो का अनुभव था, वास्तविक धोखाधड़ी को रोकने की इसकी क्षमता का आकलन करने वाला परीक्षण नहीं।
बातचीत से धोखाधड़ी वाली साइटों और पैसे भेजने के खातों की जानकारी जुटाना
एक और मकसद जानकारी जुटाना है। अगर सामने वाला अपनी पेशकश जारी रखता है, तो बातचीत में उस URL का ज़िक्र आता है जहां वह भेजना चाहता है, या पैसे जमा कराने के खाते का। इस तरह यह सिर्फ समय बर्बाद नहीं करता, बल्कि बातचीत को जांच के लिए उपयोगी सामग्री में बदल देता है।
Kaafar के मुताबिक, करीब 3.5 लाख बॉट हैं और 2.5 लाख से ज़्यादा जानकारियां जुटाई गई हैं। इनमें धोखाधड़ी वाली साइटों के URL, पैसे के लेन-देन के लिए इस्तेमाल होने वाले खाते और बैंक से जुड़ी अन्य जानकारी शामिल हैं। ये आंकड़े कंपनी की ओर से दिए गए हैं, इनकी स्वतंत्र रूप से पुष्टि नहीं हुई है।
इसका काम सिर्फ फोन कॉल तक सीमित नहीं है। बताया गया है कि बॉट टेक्स्ट संदेशों का जवाब देते हैं और ऑनलाइन धोखाधड़ी वाले चैट समूहों में भी शामिल होते हैं। इस सेवा का इस्तेमाल बैंक करते हैं और दूरसंचार कंपनियां भी इसे समर्थन देती हैं। हालांकि, उपलब्ध सामग्री में किसी खास ग्राहक का नाम या जुटाई गई जानकारी के आधार पर बंद किए गए खातों और साइटों की संख्या नहीं बताई गई है।
हमलावरों को उलझाए रखने वाला AI नकली सिस्टमों में भी
हमलावरों को जानबूझकर लुभाकर उनके व्यवहार पर नज़र रखने की तरकीब साइबर सुरक्षा में लंबे समय से इस्तेमाल की जाती है। इसका एक जाना-पहचाना उदाहरण हनीपॉट है। इसमें असली दिखने वाला सिस्टम तैयार किया जाता है, ताकि घुसपैठियों के तौर-तरीकों की जांच की जा सके या उनका समय बर्बाद किया जा सके।
ईटीएच ज्यूरिख के डॉक्टरेट शोधकर्ता Mark Vero और उनके सहयोगी बड़े भाषा मॉडल से लैस हनीपॉट पर शोध कर रहे हैं, जो पाठ तैयार करने जैसे काम करते हैं। पेश किए गए शोध में, आसानी से अनुमान लगाए जा सकने वाले जवाबों वाली व्यवस्था की तुलना में, हमला करने वाले AI एजेंट ज़्यादा देर तक इसमें उलझे रहे और उनके इसे चारा समझ लेने की दर भी कम थी।
Apate इंसानों जैसी बातचीत तैयार करता है, जबकि यहां असली दिखने वाले सिस्टम के जवाब तैयार किए जाते हैं। दोनों में समानता यह है कि AI का इस्तेमाल सिर्फ संदिग्ध गतिविधि पहचानने के लिए नहीं, बल्कि सामने वाले के साथ संवाद में भी होता है। हालांकि, यह शोध हमले करने वाले AI पर है; इसके नतीजों को इंसानी धोखेबाज़ों पर लागू नहीं माना जा सकता।
लंबी फोन बातचीत के उदाहरण और नुकसान घटने के प्रमाण अलग-अलग हैं
इस उपाय का आकलन करने के लिए बातचीत की अवधि या बॉट की संख्या भर काफी नहीं है। यह अलग-अलग जांचना होगा कि इससे सामने वाले के काम में कितनी बाधा आई, क्या जुटाई गई जानकारी से खाते या साइटें बंद हुईं और क्या आखिरकार नुकसान कम हुआ।
अगर बैंक, दूरसंचार कंपनियां, सोशल मीडिया कंपनियां और जांच एजेंसियां जानकारी साझा कर सकें, तो बातचीत से मिले सुरागों को अन्य उपायों में इस्तेमाल किया जा सकता है। दूसरी ओर, धोखेबाज़ बड़े पैमाने पर स्वचालित कॉल और संगठित ठिकानों का भी इस्तेमाल करते हैं। ऐसे में कुछ लोगों को लंबी बातचीत में उलझाने भर से पूरे नेटवर्क को रोक पाना ज़रूरी नहीं।
उपलब्ध सामग्री में Apate के कामकाज का पैमाना, जुटाई गई जानकारियों की संख्या और लंबी बातचीत के उदाहरण दिए गए हैं। इसमें नुकसान की रकम में कमी की दर या धोखाधड़ी की सफलता दर कितनी घटी, इस बारे में आंकड़े नहीं हैं।
コメント