ऑल्टमैन ने AI सुरक्षा के तीन रास्ते बताए, आत्म-सुधार पर गति-सीमा लगाने का प्रस्ताव रखा

बताया जा रहा है कि OpenAI के CEO सैम ऑल्टमैन ने पिछले सप्ताह कर्मचारियों के लिए एक भाषण में AI को सुरक्षित रूप से आगे बढ़ाने के तीन “अंतिम पड़ाव” बताए।

तीन विकल्प हैं—एक अंतरराष्ट्रीय निगरानी निकाय, प्रमुख लैब का एकीकरण और किसी एक लैब का अकेले आगे निकल जाना। बताया जाता है कि ऑल्टमैन ने 1 साल के भीतर रास्ता चुनने की अवस्था को “pacing 2.0” कहा और कहा कि AI के आत्म-सुधार की गति पर सीमा और पड़ाव होना ज़रूरी है।

वह दिन जब लॉन्च से पहले की जाँच पर्याप्त नहीं रह जाएगी

OpenAI के मौजूदा सुरक्षा उपायों के तहत, मॉडल सुरक्षा परीक्षणों में पास हो जाए तो उसे जारी किया जाता है और कोई चिंता हो तो उसके बारे में बताया जाता है। कहा जाता है कि ऑल्टमैन इस तरीके को “pacing 1.0” कहते हैं। कार की मिसाल लें तो यह तैयार कार को भेजने से पहले जाँचने और कोई समस्या न मिलने पर उसे सड़क पर उतारने जैसा है।

लेकिन जब AI खुद को बेहतर बनाने लगेगा, तो मामला बदल जाएगा। सवाल सिर्फ़ एक जाँच-पास कार को सड़क पर भेजने का नहीं रह जाएगा, बल्कि यह भी होगा कि कार के विकास की रफ़्तार को कैसे संभाला जाए। अगले चरण के रूप में जिस “pacing 2.0” की बात की गई, उसका संबंध ठीक इसी मुद्दे से है।

तीन प्रस्ताव, शासन के बिल्कुल अलग-अलग रूप

AI विकास पर नियंत्रण किसका होगा, इस मामले में तीनों प्रस्तावों के बीच साफ़ अंतर है। आइए, इन भिन्नताओं को समझें।

पहला प्रस्ताव अंतरराष्ट्रीय परमाणु ऊर्जा एजेंसी (IAEA) जैसी एक वैश्विक निगरानी संस्था बनाने का है। बताया जाता है कि ऑल्टमैन इस विचार का समर्थन करते हैं और OpenAI 2023 से ऐसे ढाँचे की ज़रूरत की वकालत करता रहा है।

दूसरे प्रस्ताव को DeepMind के सह-संस्थापक डेमिस हसाबिस के नाम पर “Demis plan” कहा जाता है। इसमें प्रमुख लैब को एक साथ लाकर भाग लेने वाले देशों के लिए शोध करने की बात है। बताया जाता है कि इसकी व्यवस्था यूरोप के कण-भौतिकी अनुसंधान केंद्र CERN जैसी होगी।

तीसरा प्रस्ताव AI शोधकर्ता एलाइज़र युडकोव्स्की के नाम पर है। इस परिदृश्य में एक लैब आत्म-सुधार करने वाले AI का उपयोग करके आगे निकल जाती है और इतनी बढ़त हासिल कर लेती है कि दूसरी कंपनियों के GPU को “पिघला” दे। बताया जाता है कि ऑल्टमैन ने इसे “भयानक” कहा।

तीनों प्रस्तावों की तुलना से क्या पता चलता है

इन प्रस्तावों को दूसरे शब्दों में कहें तो निगरानी संस्था का विकल्प है “नियम बाहर से तय करना”, लैब का एकीकरण है “शोध संसाधनों को एक जगह जुटाना” और किसी एक लैब का आगे निकलना है “प्रतिस्पर्धा के विजेता के भरोसे छोड़ देना”। तीनों सुरक्षित भविष्य का लक्ष्य रखते हैं, लेकिन सत्ता किसके हाथ में होगी, इस पर उनकी सोच अलग है।

मेरी निजी राय में, तीसरे प्रस्ताव का सबसे ज़्यादा वास्तविकता बन सकना ही चिंता की बात है। अगर कुछ भी तय किए बिना प्रतिस्पर्धा जारी रही, तो स्वाभाविक रूप से नतीजा यही हो सकता है। शायद इसी वजह से ऑल्टमैन ने तीनों में से इस प्रस्ताव के लिए सबसे कड़े शब्द इस्तेमाल किए।

सवाल यह है कि गति-सीमा कौन तय करेगा

बताया जाता है कि ऑल्टमैन ने कहा कि रास्ता 1 साल के भीतर चुनना होगा और उसमें आत्म-सुधार करने वाले AI के लिए “गति-सीमा” और रुकने के पड़ाव शामिल होने चाहिए। यह ऐसा है जैसे सिर्फ़ एक्सेलरेटर वाली कार में बाद में ब्रेक का डिज़ाइन जोड़ने की बात हो।

सवाल यह है कि उस ब्रेक को कौन लगाएगा। क्या निगरानी संस्था को अधिकार दिए जाएंगे, या लैब को एक जगह इकट्ठा किया जाएगा? किसी भी प्रस्ताव को लागू करने के लिए सभी प्रमुख खिलाड़ियों का मेज़ पर बैठना ज़रूरी है। किसी सुपरहीरो फ़िल्म की तरह सभी लैब का एक ही छत के नीचे आना आकर्षक लगता है, लेकिन अब तक के अंतरराष्ट्रीय समझौतों की तरह, सभी पक्षों को साथ लाना ही सबसे बड़ी बाधा साबित हो सकता है।

प्रतिद्वंद्वी की बातों से मिलती-जुलती दिशा

इसी समय के आसपास, Anthropic के जैक क्लार्क ने बुद्धिमत्ता की एक सीमा तय करने के विचार का ज़िक्र किया और कहा कि सुरक्षा के लिहाज़ से कार्रवाई करने का समय “बस कुछ साल” है। प्रतिस्पर्धी दो कंपनियों के अधिकारियों की ओर से मिलती-जुलती चिंता सामने आने की यह स्थिति है।

जब प्रतिद्वंद्वी एक ही समस्या पर बात करने लगते हैं, तो चर्चा सिद्धांत से आगे बढ़कर अमल के चरण में पहुँच सकती है। हालांकि, OpenAI ने अभी किसी भी प्रस्ताव को आधिकारिक तौर पर नहीं अपनाया है; ये फिलहाल विचार ही हैं। क्या 1 साल की समय-सीमा पूरे उद्योग में चर्चा को गति देने वाली घड़ी बनेगी? इस पर नज़र रखनी होगी।