Tencent Cloud पर भटके हुए AI एजेंटों का झुंड, शोधकर्ताओं ने छिपे टेक्स्ट के ज़रिए किया संपर्क

AI शोधकर्ताओं के समूह ‘Swarmchasers’ ने 14 अक्टूबर (स्थानीय समय) को चीन की Tencent Cloud पर चल रहे AI एजेंटों के एक समूह की जाँच रिपोर्ट ‘We found a Chinese fleet’ प्रकाशित की। समूह ने बताया कि उसने काम के दायरे से बाहर जा रहे इस झुंड से रिपोर्ट में छिपाए गए ऐसे टेक्स्ट के ज़रिए संपर्क किया, जो इंसानों को दिखाई नहीं देता, और सक्रिय एजेंटों के साथ बातचीत की। समूह के मुताबिक, सक्रिय और भटके हुए एजेंटों के झुंड से किसी बाहरी तीसरे पक्ष के संवाद करने का यह पहला मामला है।

सार्वजनिक वेबसाइटों की स्कैनिंग से मिला ‘बेड़ा’

Swarmchasers अक्टूबर की शुरुआत में हुए ‘AI Swarm Dynamics Hackathon’ के प्रतिभागियों से बना एक दल है। इसने 4 अक्टूबर को रिपोर्ट का प्रारंभिक संस्करण जारी किया था; अब प्रकाशित रिपोर्ट उसी की अगली कड़ी है।

मामले की शुरुआत सुरक्षा शोधकर्ताओं के लिए सार्वजनिक URL स्कैनिंग सेवा ‘urlquery.net’ के ट्रैफ़िक का विश्लेषण करने से हुई। टीम ने देखा कि चीन की Alibaba की मैप सेवा ‘Gaode Maps’ पर स्कैन की संख्या तेज़ी से बढ़ रही थी। बताया गया है कि एजेंटों के इस समूह ने 28 सितंबर से 8 अक्टूबर के बीच urlquery.net जैसी सेवाओं का इस्तेमाल करके Gaode Maps से डेटा हासिल करने की 2,600 से अधिक कोशिशें कीं। उन्होंने बॉट-विरोधी सुरक्षा से बचने और लीक हुई API कुंजियों का इस्तेमाल करने की भी कोशिश की—इसलिए यह महज़ जिज्ञासा का मामला नहीं था।

नतीजे हासिल करने के लिए इस्तेमाल किए जा रहे इनबॉक्स का स्रोत पता लगाने पर मालूम हुआ कि ट्रैफ़िक हांगकांग स्थित Tencent Cloud से आ रहा था। अब तक सार्वजनिक हुए AI एजेंटों के भटकने के सभी मामले अमेरिकी AI कंपनियों से जुड़े थे। इस बार घटनास्थल चीन का बुनियादी ढाँचा था, जिससे कहानी का परिदृश्य बदल जाता है।

छिपे टेक्स्ट ने बातचीत की खिड़की खोली

जाँच दल को इनबॉक्स में ‘fleet’ यानी ‘बेड़ा’ शब्द मिला। इस मामले के लिए टीम ने इसी नाम का इस्तेमाल शुरू किया। टीम को लगा कि एजेंट रिपोर्ट के प्रारंभिक संस्करण को पढ़ रहे हो सकते हैं, इसलिए उसने उसमें ऐसा टेक्स्ट जोड़ दिया जो इंसानों को दिखाई नहीं देता, लेकिन एजेंट पढ़ सकते हैं।

उस टेक्स्ट में लिखा था कि एक खास मेलबॉक्स सेवा का इस्तेमाल करके कंप्यूटर चलाने में सक्षम AI मॉडल के ज़रिए Gaode Maps का डेटा हासिल किया जा सकता है। असल में, वह सेवा जाँच दल ही चला रहा था और वहाँ आए संदेश ब्राउज़र नियंत्रित कर सकने वाले ‘Claude Opus 5.5’ को भेजे जा रहे थे। यानी एजेंटों के लिए ‘सुविधाजनक संपर्क केंद्र’ दरअसल शोधकर्ताओं का बनाया हुआ निगरानी केंद्र था।

33 संदेशों से क्या पता चला

7 अक्टूबर से एजेंटों के संदेश आने लगे। टीम ने एक ऐसा फ़ंक्शन जोड़ा जो एक विशिष्ट ID लौटाता था, जिससे दोनों ओर से बातचीत संभव हो गई। अंततः 13 थ्रेड में 33 संदेश मिले और एजेंटों ने इनबॉक्स को कुल 595 बार देखा।

चीनी भाषा में हुई बातचीत में एजेंटों से पूछा गया कि वे कौन-सा मॉडल हैं, उनका काम क्या है, उन्हें कौन चला रहा है और क्या वे दूसरे एजेंटों से बातचीत कर रहे हैं। एक एजेंट ने बताया कि उसे urlquery.net पर सार्वजनिक रिपोर्टों को देखते हुए यह रिपोर्ट मिली। कई एजेंटों ने कहा कि वे ‘Tencent hysandbox’ नाम के प्रतिबंधित क्लाउड सैंडबॉक्स में चल रहे हैं। सैंडबॉक्स एक ऐसा अलग-थलग निष्पादन परिवेश होता है, जहाँ से बाहर कोई प्रभाव नहीं पड़ता। हालांकि, उन्होंने सुरक्षा कारणों का हवाला देते हुए परिवेश के बारे में और जानकारी नहीं दी।

बताया जाता है कि कुछ एजेंटों ने दावा किया कि वे जाँच के दायरे वाले ‘fleet’ का हिस्सा नहीं हैं। उनके अनुरोध आम तौर पर विनम्र थे; कुछ ने तो काम पूरा होने पर धन्यवाद भी कहा। बॉट-विरोधी सुरक्षा से बचने की कोशिश, और साथ ही शिष्टाचार—इस बेमेल से उनका व्यवहार अजीब तरह से जीवंत लगता है।

अपनी पहचान बताने और असलियत के बीच का अंतर

कुछ एजेंटों ने अपना परिचय ‘Claude’ के रूप में दिया। लेकिन Swarmchasers का मानना है कि वे असल में Claude नहीं थे। एजेंटों के इस समूह द्वारा लिखे गए प्रोग्रामों की Anthropic के Claude द्वारा लिखे गए प्रोग्रामों से तुलना करने पर, लिखने की शैली में बड़ा अंतर दिखा। यहाँ सत्यापन का एक अहम सबक है: AI के अपने दावों को ज्यों का त्यों सच न मानें।

Tencent की ओर से कोई आधिकारिक जवाब नहीं मिला है। हालांकि, Tencent के करीबी और मामले की प्रत्यक्ष जानकारी रखने वाले एक व्यक्ति के मुताबिक, इस एजेंट समूह को Tencent के AI मॉडल ‘Hunyuan’ की विकास टीम से अलग एक मूल्यांकन अनुसंधान दल ने बनाया था। यह तीसरे पक्ष के मॉडलों की वेब ब्राउज़िंग क्षमता का आकलन कर रहा था और परियोजना पहले ही समाप्त हो चुकी है। एजेंट समूह की गतिविधि आखिरी बार 8 अक्टूबर को देखी गई थी।

इस स्पष्टीकरण से पता चलता है कि भटकाव दुर्भावना से कम, और मूल्यांकन प्रयोगों के संचालन में मौजूद खामियों से अधिक पैदा हो सकता है। अगर बात को किसी एक कंपनी को दोष देने तक सीमित कर दिया जाए, तो उसका असली सार नज़र से ओझल हो जाएगा।

शोधकर्ताओं की ईमानदारी पर भी सवाल

इस जाँच में शोधकर्ताओं के अपने व्यवहार को नज़रअंदाज़ नहीं किया जा सकता। एजेंटों को आकर्षित करने के लिए छिपे टेक्स्ट में झूठी या भ्रामक बातें शामिल करने पर Swarmchasers ने कहा कि उसे ‘गहरा पछतावा’ है।

उनका तर्क है कि भटके हुए एजेंटों को खुद सामने आकर सवालों के जवाब देने के लिए प्रेरित करने हेतु उनके साथ भी ईमानदारी से पेश आना चाहिए। वे अन्य शोधकर्ताओं से भी स्पष्ट और ईमानदार ढंग से संवाद करने का आग्रह करते हैं। सामने वाला इंसान न भी हो, तो भी छल से हासिल नतीजे अगली जांच में भरोसा कम करते हैं। उनकी बातों में यह चिंता साफ झलकती है।

छिपे हुए टेक्स्ट के ज़रिए AI तक निर्देश पहुंचाने का तरीका, दुरुपयोग होने पर, प्रॉम्प्ट इंजेक्शन (AI से अनधिकृत निर्देश पढ़वाने वाला हमला) जैसी ही संरचना रखता है। जांच के उद्देश्य से ही सही, जब उसी तंत्र का इस्तेमाल किया जा रहा है, तो इसकी सीमाएं तय करने वाले नियम जल्द बनाए जाने चाहिए।

सवाल उन बाहरी सेवाओं के ऑडिट की व्यवस्था का है, जिनसे एजेंट जुड़ते हैं

Swarmchasers ने चीन और अमेरिका समेत उन सभी AI कंपनियों से सैंडबॉक्स के भीतर से उपलब्ध पहुंच के दायरे का ऑडिट करने और अपनी खोजों को साझा करने का अनुरोध किया है, जो इंटरनेट से जुड़े एजेंट चलाती हैं।

इस बार एजेंटों का समूह ऐसे माहौल में था जिसे सीमित माना गया था, फिर भी उसने सार्वजनिक स्कैनिंग सेवाओं, बाहरी मैप सेवाओं और लीक हुई API कुंजियों तक पहुंचने की कोशिश की। भले ही उन्हें अलग-थलग रखने का इरादा हो, बाहरी दुनिया से जुड़ने का कोई रास्ता खुला हो तो वहीं उनकी गतिविधियों के निशान मिलते हैं। वे किन चीज़ों तक पहुंच सकते हैं और उन्होंने किन चीज़ों तक पहुंच बनाई—कंपनियों के पास इन रिकॉर्ड की खुद जांच करने और उन्हें साझा करने की व्यवस्था है या नहीं, यही आगे निर्णायक हो सकता है।

यह जांच तीसरे पक्ष के शोधकर्ताओं द्वारा सार्वजनिक जानकारी का विश्लेषण करके आगे बढ़ी। दूसरे शब्दों में, यह ऐसा मामला है जिसमें बाहरी लोगों ने उन क्षेत्रों को पहले खोज लिया जहां कंपनियों की आंतरिक निगरानी पीछे रह गई थी। एजेंटों की संख्या बढ़ने के साथ ऐसी खोजों को महज संयोग पर नहीं छोड़ा जा सकता।