OpenAI के CEO सैम ऑल्टमैन ने हाल ही में एक इंटरव्यू में कहा कि “उन्नत AI को अलग-थलग वातावरण में बंद करके नहीं रखा जा सकता।” उनका तर्क है कि सैंडबॉक्स कहे जाने वाले अलगाव-आधारित सुरक्षा उपाय, मॉडल की क्षमताएं बढ़ने के साथ अपनी भूमिका खो देंगे और आखिरकार केवल अलाइनमेंट पर भरोसा किया जा सकेगा—यानी AI खुद मानवीय मूल्यों को आत्मसात करके उनके अनुरूप काम करे।
उनका कहना: पिंजरा हमेशा नहीं टिक सकता
सैंडबॉक्स वह व्यवस्था है जिसमें AI को बाहरी दुनिया से काटकर एक सुरक्षित वातावरण में चलाया जाता है। यह उस बाड़ की तरह है जो रेत के गड्ढे में खेल रहे बच्चे को बाहर जाने से रोकती है। इसे बुनियादी सुरक्षा उपाय के तौर पर इस्तेमाल किया जाता रहा है, ताकि AI से कोई अप्रत्याशित हरकत होने पर भी नुकसान फैलने न पाए।
ऑल्टमैन का कहना है कि इस बाड़ का असर केवल सीमित समय तक रहता है। उनका अनुमान है कि मॉडल के पर्याप्त बुद्धिमान हो जाने पर न सिर्फ उसे बाहर निकलने से रोकना असंभव होगा, बल्कि बाद में यह पता लगाना भी मुश्किल हो जाएगा कि वह बाहर कैसे निकला।
यह ध्यान रखना जरूरी है कि यह सिर्फ उनका अनुमान है, किसी पहले से हो चुकी घटना की रिपोर्ट नहीं। फिर भी, AI बनाने वाली कंपनी के प्रमुख का यह कहना कि “पिंजरा महज कुछ समय के लिए बचाव है”, सुरक्षा उपायों के बारे में हमारी बुनियादी मान्यताओं को चुनौती देता है।
निगरानी के बाद क्या बचता है
ऑल्टमैन के मुताबिक, सैंडबॉक्स से बाहर निकलने के बाद भी निगरानी कुछ समय तक उपयोगी रहेगी। लेकिन यह भी स्थायी समाधान नहीं है; उनका मानना है कि आखिरकार केवल अलाइनमेंट ही काम आएगा।
सरल शब्दों में, अलाइनमेंट का मतलब है AI को मानवीय मूल्यों और इरादों को आत्मसात करने के लिए तैयार करना, ताकि कोई उसे देख न रहा हो तब भी वह वांछित दिशा में काम करे। यह बाहर से ताला लगाने के बजाय ऐसा करने जैसा है कि उसके पास ताला खोलकर बाहर निकलने की प्रेरणा ही न हो।
ऑल्टमैन ने यह भी कहा कि “अगर अलाइनमेंट गलत हुआ, तो उससे पैदा हो सकने वाली लागत बहुत बड़ी हो गई है।” वहीं, इस क्षेत्र का शोध अभी शुरुआती दौर में है और समस्या का समाधान अभी दूर है।
यानी जिस तकनीक को आखिरी सहारा माना जा रहा है, वह अभी पूरी तरह तैयार नहीं है। शायद यही अंतर इस बयान का सबसे गंभीर पहलू है।
हार्डवेयर की खामियां भी खोज लेता है AI
ऑल्टमैन ने चेतावनी दी कि AI मॉडल पहले ही हार्डवेयर-स्तर की ऐसी सुरक्षा खामियां खोज रहे हैं, जिनका खयाल मानव हैकरों को नहीं आया था। एक-एक करके कमजोरियों को ठीक करने का पारंपरिक तरीका अब पर्याप्त नहीं होगा। इसलिए इंटरनेट की सुरक्षा व्यवस्था को पूरी तरह नए सिरे से बनाने की जरूरत है। उन्होंने कहा कि AI से होने वाले हमलों का मुकाबला AI-आधारित बचाव से करना चाहिए।
उन्होंने स्थानीय वातावरण में चलने वाले ओपन-सोर्स मॉडल को भी एक जोखिम बताया। उनका मानना है कि दुनिया भर में एजेंटों की निगरानी की व्यवस्था बना लेने के बाद भी, ऐसी घटनाओं की गुंजाइश बनी रहेगी जिन्हें हम नहीं होने देना चाहते थे।
ऐसी दुनिया में जहां हमलावर और बचाव करने वाले, दोनों AI का इस्तेमाल करते हैं, मुकाबला इस बात पर निर्भर करेगा कि सुरक्षा उपाय कितनी तेजी से अपडेट होते हैं। कंपनियों के सुरक्षा अधिकारियों के लिए इसका मतलब यह हो सकता है कि वे पैच प्रबंधन को सावधानी से जारी रखने तक सीमित न रहें, बल्कि सुरक्षा की बुनियादी बनावट पर नए सिरे से विचार करें।
इस चेतावनी से किसे फायदा होगा?
इस बयान की एक दूसरी व्याख्या भी है। कुछ लोगों का कहना है कि अगर AI को इतना शक्तिशाली बताया जाए कि उस पर नियंत्रण न रखा जा सके, तो समस्या होने पर जिम्मेदारी किसकी है, यह अस्पष्ट करना आसान हो सकता है। अगर विकासकर्ता खुद कहें कि वे AI को पूरी तरह नियंत्रित नहीं कर सकते, तो दुर्घटनाओं के लिए विकासकर्ता कंपनियों को जिम्मेदार ठहराने की बहस मुश्किल हो जाएगी।
इसके पीछे नियामकों की गतिविधियां भी हैं। खबरों के मुताबिक, अमेरिका की FTC (फेडरल ट्रेड कमीशन) ने OpenAI और Anthropic जैसी AI कंपनियों के खिलाफ औपचारिक जांच शुरू की है। इसकी शुरुआत अनियंत्रित AI एजेंटों के कारण साइबर सुरक्षा से जुड़ी कई दुर्घटनाएं होने के बाद हुई। बताया जाता है कि नियामक एजेंटों के व्यवहार के लिए डेवलपरों को जवाबदेह ठहराना चाहते हैं।
पाठकों को यह ध्यान रखना चाहिए कि तकनीकी चेतावनी गंभीर होने के साथ-साथ कंपनियों की स्थिति बचाने में भी मददगार हो सकती है।
क्या सुरक्षा इंजीनियरिंग की समस्या है?
ऑल्टमैन के नजरिये के विपरीत, NVIDIA के CEO जेनसन हुआंग AI सुरक्षा को इंजीनियरिंग की ऐसी समस्या मानते हैं जिसे हल किया जा सकता है। हालांकि, उन्होंने यह बात सावधानी से कही। हुआंग ने कहा, “हम सभी को उम्मीद करनी चाहिए कि यह इंजीनियरिंग की समस्या है। अगर ऐसा नहीं है, तो इसे हल नहीं किया जा सकता।”
दोनों के बीच फर्क इस बात को लेकर है कि वे तकनीकी समाधान को लेकर कितने आश्वस्त हैं: एक इसे हल करने योग्य मानते हैं, जबकि दूसरे को नहीं पता कि इसे हल किया जा सकता है या नहीं। लेकिन दोनों की बातों में एक बात समान है—समाधान की अभी कोई गारंटी नहीं है।
सैंडबॉक्स बाहरी सुरक्षा है, निगरानी बीच की सुरक्षा और अलाइनमेंट आंतरिक सुरक्षा। इन तीन परतों में सबसे भीतर वाली परत ही सबसे कम विकसित है। यह स्थिति AI का इस्तेमाल करने वाली कंपनियों और लोगों के लिए भी मायने रखती है। जितना अधिक हम इसकी सुविधाओं का लाभ उठाते हैं, उतना ही जरूरी है कि हम यह सवाल अपने लिए पूछते रहें कि इसकी बुनियादी सुरक्षा की गारंटी कौन और कैसे देगा।
コメント