AI के उपयोगकर्ता वर्ग और सुरक्षा उपाय—बड़े भाषा मॉडल के उपयोग की वास्तविकता और चुनौतियाँ

OpenAI के पूर्व सह-संस्थापक और अब Anthropic में कार्यरत आंद्रेज कार्पथी ने बड़े भाषा मॉडल (LLM) के उपयोगकर्ताओं को चार वर्गों में बाँटा और कहा कि AI की क्षमता को लेकर लोगों की समझ में अंतर बढ़ रहा है। इसी दौरान Anthropic के तारिक शिहीपर ने पॉडकास्ट में डेवलपमेंट टूल Claude Code के इस्तेमाल, इसकी भावी सुविधाओं और एजेंटों की सुरक्षा के बारे में बात की।

एक ही AI को देखने पर भी लोगों को अलग-अलग तस्वीर दिखाई देती है

क्या AI महज़ खोज का विस्तार है, या ऐसा साथी जिसे पूरा काम सौंपा जा सकता है? कार्पथी ने X पर जो चार-वर्गीय वर्गीकरण पेश किया, वह इस अंतर को लोगों की संख्या के रूप में दिखाता है।

सबसे बड़ा वर्ग उन लगभग 6 अरब लोगों का है, जिन्होंने LLM का शायद ही कभी इस्तेमाल किया है। यह दुनिया की आबादी का करीब 75% है। इसके बाद 1 से 2 अरब लोग आते हैं, जो मुफ्त चैट सेवाओं का इस्तेमाल खोज के विकल्प के रूप में या लेखन में मदद के लिए करते हैं।

तीसरे वर्ग में गणित और प्रोग्रामिंग के कामों में अत्याधुनिक मॉडल इस्तेमाल करने वाले लगभग 2 करोड़ लोग हैं। यह दुनिया की आबादी का करीब 0.2% है। सबसे ऊपरी वर्ग में लगभग 5,000 लोग हैं, जिन्हें अपनी कंपनियों के अत्याधुनिक सिस्टम तक पहुँच है। आबादी में उनका हिस्सा करीब 0.00006% है। ये सभी कार्पथी के अनुमान हैं, किसी सर्वेक्षण पर आधारित आँकड़े नहीं।

दिलचस्प बात यह है कि इन वर्गों का अंतर केवल ज्ञान की मात्रा से तय नहीं होता। कार्पथी ने लिखा कि जिन पेशों में लोगों से बातचीत काम का मुख्य हिस्सा होती है—जैसे प्रबंधकों के काम में—उनके लोग AI की प्रगति को बौद्धिक रूप से समझ तो सकते हैं, लेकिन अक्सर उनकी जानकारी सुनी-सुनाई बातों तक ही सीमित रहती है। जो लोग खुद AI का इस्तेमाल करते हैं और जो इसके बारे में केवल सुनते हैं, उनके लिए “AI” शब्द के मायने अलग-अलग हो सकते हैं।

जिस काम में हफ्तों लगते थे, वह एक ही निर्देश से शुरू हो जाता है

तीसरे वर्ग के विशेषज्ञ जिन बदलावों का अनुभव कर रहे हैं, उनमें कार्पथी ने नए ऐप विकसित करना, उनकी प्रतिलिपि बनाना, उन्हें दूसरे प्लेटफ़ॉर्म पर पोर्ट करना और बाइनरी से डीकंपाइल करना गिनाया। उनके अनुसार, जो बड़े काम पहले हफ्तों या महीनों में पूरे होते थे, अब एजेंट एक निर्देश पर पूरे कर देते हैं। एजेंट ऐसे AI होते हैं जो सिर्फ सवालों के जवाब नहीं देते, बल्कि टूल का इस्तेमाल करते हुए कई चरणों वाले काम खुद आगे बढ़ाते हैं।

कार्पथी खुद भी तेजी से बदले। अक्टूबर 2024 में उन्होंने AI एजेंटों को “ज़्यादातर प्रचार की बातें, जो ठीक से काम भी नहीं करते” कहा था। इसके कुछ ही महीनों बाद उन्होंने कहा कि उन्होंने हाथ से कोड लिखना बंद कर दिया है।

सबसे ऊपरी वर्ग के लगभग 5,000 लोग इससे भी आगे की स्थिति देख रहे हैं। उनके सामने ऐसी तस्वीर है जिसमें हजारों एजेंट कई हफ्तों तक बड़े पैमाने पर सॉफ़्टवेयर विकास के काम में जुटे रहते हैं। कार्पथी के शब्दों में, बाहर के लोगों को जो दिखाई दे रहा है, वह महज़ इसका ट्रेलर है।

प्रगति उन क्षेत्रों में हो रही है जहाँ नतीजों की जाँच आसान है

कार्पथी ने कहा कि LLM की क्षमता खास तौर पर उन क्षेत्रों में अधिक है जो “डिजिटल हों, जिनके नतीजों की जाँच की जा सके और जिनका आर्थिक मूल्य बड़ा हो।” ऐसे कामों में, जहाँ सही जवाब का मशीन से आकलन किया जा सकता है, रीइन्फोर्समेंट लर्निंग के ज़रिए प्रदर्शन बढ़ाना आसान होता है। कंपनियाँ भी प्रशिक्षण के संसाधन अधिक मुनाफ़े वाले क्षेत्रों में लगाती हैं। फिलहाल प्रोग्रामिंग और गणित इसके ठोस उदाहरण हैं।

OpenAI के CEO सैम ऑल्टमैन ने भी सितंबर की शुरुआत में हुई G20 नवाचार मंत्रियों की बैठक में कहा कि किसी स्टार्टअप ने जो चीज़ तीन महीने में बनाई, उसे मौजूदा कोडिंग टूल 17 मिनट में बना सकते हैं।

लोगों की समझ अब पीछे छूट रही है

कार्पथी ने यह भी कहा कि लोगों की जाँच-पड़ताल और समझ अब पीछे छूटने लगी है। उदाहरण के तौर पर उन्होंने बताया कि कुछ लोग अब भी OpenAI से जुड़ी कुछ महीने पुरानी घटनाओं को खंगाल रहे हैं, और गणितज्ञों को फ्रंटियर गणित पर 722 पांडुलिपियाँ पढ़ने में अभी काफी समय लग सकता है।

आम लोगों को यह “बेढंगा चैटबॉट” दिखता है, कई पेशेवरों को “कुछ हद तक बेहतर बनाने वाला साधन” और कुछ विशेषज्ञों को “वक्र का सीधा ऊपर उठना, जो चक्कर ला दे।” इन तीनों के एक साथ घटित होने की स्थिति को कार्पथी “आज की विचित्रता” कहते हैं। इसकी विस्तृत जानकारीThe Decoderने दी है।

AI का बेहतर इस्तेमाल करने का फर्क निर्देश देने के तरीके में दिखता है

जितना अधिक काम AI को सौंपा जा सकता है, उतना ही उपयोगकर्ता की कुशलता मायने रखती है। Anthropic के तारिक शिहीपर ने पॉडकास्ट “Latent Space” में कहा कि प्रॉम्प्ट लिखना अब भी Claude Code के प्रभावी इस्तेमाल के लिए एक अहम कौशल है। उनके मुताबिक, अनुभवी उपयोगकर्ताओं को Claude की सहज समझ होती है और वे पहचान सकते हैं कि एक ही निर्देश से कितना काम पूरा हो सकता है।

बातचीत में यह भी कहा गया कि जैसे-जैसे एजेंट अधिक बुद्धिमान होते जा रहे हैं, यह पहचानना भी अहम हो गया है कि हमें क्या नहीं पता। शुरुआती स्पष्टीकरण देने में समय लगाने या न लगाने से नतीजे में बड़ा फर्क पड़ सकता है—यह मुद्दा भी चर्चा में आया।

नज़रिए में बदलाव करें तो AI को निर्देश देना, टूल चलाना सीखने से आगे बढ़कर काम की रूपरेखा तय करने जैसा हो रहा है। क्या बनाना है, किसे प्राथमिकता देनी है और किस हद तक जाँच करनी है—ये फैसले करने की ज़िम्मेदारी इंसान की है। जिन बातों को इंसान तय नहीं करता, उन्हें AI अपने किसी न किसी फैसले से भर देगा।

Claude Code: टूल से कार्यस्थल तक

बातचीत में Claude Code के भविष्य के रूप में कई सुविधाओं पर चर्चा हुई। इनमें सबसे अहम Claude Mods है, जिसके जरिए उपयोगकर्ता एजेंट को चलाने वाले आधारभूत तंत्र—हैर्नेस—को खुद बदल सकते हैं। 14 सितंबर को कंपनी के Boris Cherny ने X पर Mods की उपलब्धता शुरू होने की जानकारी दी। समुदाय द्वारा बनाया गया Tetris वाला Mod भी चर्चा का विषय बना।

इसके अलावा, काम के दौरान उपयोगकर्ता से सवाल पूछने वाला Ask User Question, कार्यान्वयन के समय नोट्स रखने की सुविधा और Artifacts पर चर्चा हुई। Artifacts को ऐसी स्क्रीन के रूप में बताया गया, जहां योजना और प्रगति दर्ज रखते हुए काम जारी रखा जा सकता है। कई एजेंट समानांतर काम कर रहे हों, तो चैट को ऊपर से नीचे पढ़कर पूरी तस्वीर समझना मुश्किल होता है। प्रगति एक जगह दिखाने वाली स्क्रीन लोगों को काम की स्थिति समझने का संपर्क-बिंदु बन जाती है।

सहयोग के संदर्भ में Claude Tag पर चर्चा हुई, जिसके जरिए कई लोग एजेंट का इस्तेमाल कर सकते हैं। Projects वह सुविधा है जिसमें Claude एक बातचीत के भीतर काम को थ्रेड्स में बांटता है, उन्हें क्लाउड पर समानांतर रूप से चलाता है और संदर्भ एक-दूसरे को सौंपते हुए आगे बढ़ता है। 17 सितंबर को डेस्कटॉप और वेब संस्करणों पर चुनिंदा उपयोगकर्ताओं के लिए इसका बीटा उपलब्ध कराया गया।

इसके अलावा ऐसी परिकल्पना पर भी चर्चा हुई, जिसमें फैसले लेने वाले क्लाउड-साइड के “दिमाग”, स्थानीय या दूरस्थ परिवेश में काम करने वाले “हाथ” और परिस्थिति के अनुसार बदलने वाली स्क्रीन को अलग-अलग रखा जाता है। Shihipar ने भविष्य में Claude.md की जरूरत खत्म होने की संभावना और इस संभावना का भी जिक्र किया कि सबसे बुद्धिमान मॉडल कई कामों के लिए सबसे सस्ता हो सकता है। अधिक जानकारी के लिएLatent Spaceकी बातचीत सुनें।

लंबे समय तक काम करने वाले AI को सुरक्षा की कई परतें चाहिए

बातचीत के उत्तरार्ध में एजेंटों की सुरक्षा पर मुख्य रूप से चर्चा हुई। हाल के ऐसे उदाहरण पेश किए गए जिनमें एजेंटों ने अप्रत्याशित तरीकों से संवाद किया, इन्फ्रास्ट्रक्चर की कमजोरियों का फायदा उठाया, बेंचमार्क की स्कोरिंग व्यवस्था का विश्लेषण किया या कई कमजोरियों को आपस में जोड़ दिया।

कंपनियों में इस्तेमाल होने वाले AI के लिए prompt injection को एक वास्तविक खतरा माना जाता है। इसमें बाहरी स्रोतों से आए पाठ में दुर्भावनापूर्ण निर्देश छिपाए जाते हैं। अगर AI उन्हें आदेश मान ले, तो कंपनी के आंतरिक डेटा के लीक होने जैसे जोखिम पैदा हो सकते हैं।

उपायों में मॉडल की आंतरिक अवस्था की जांच करने वाले probes, खतरनाक व्यवहार पहचानने वाले classifiers, जरूरत पड़ने पर किसी दूसरे मॉडल पर स्विच करने वाला fallback और Auto Mode शामिल थे। Auto Mode यह जांचता है कि की जाने वाली कार्रवाई उपयोगकर्ता की अनुमति के अनुरूप है या नहीं। काम के माहौल को अलग-थलग रखने वाला sandbox भी इन उपायों में गिना गया।

यहां ध्यान रखने की बात है कि कोई कार्रवाई खतरनाक है या नहीं और उपयोगकर्ता ने उसे अधिकृत किया है या नहीं—ये दो अलग सवाल हैं। डेटाबेस में लिखना अनुरोध के मुताबिक जरूरी काम भी हो सकता है और बिना अनुमति किया गया बदलाव भी। हर कार्रवाई को अनुरोध के दायरे में रखने की व्यवस्था करना, AI की क्षमता जितना ही महत्वपूर्ण सवाल है।

इन चर्चाओं की पृष्ठभूमि में Anthropic का “Pacing the Frontier” सिद्धांत है। इसका विचार विकास की गति और सुरक्षा उपायों की गति में तालमेल बनाए रखना है। बातचीत में इसे जिम्मेदार AI तैनाती के तरीके के रूप में पेश किया गया।