वह दृश्य कृत्रिम होशियारी (एआई) पिछले कुछ वर्षों से मौजूद परमाणु हथियारों जैसी प्रौद्योगिकियों का उपयोग करके मानव जाति के लिए अस्तित्व संबंधी खतरा पैदा कर सकता है। पिछले साल, ऐसे खतरों और जोखिमों की जांच करने के बाद, एक अध्ययन वैश्विक नीति थिंक-टैंक रैंड कॉर्पोरेशन ने तर्क दिया कि ऐसे जोखिमों से इंकार नहीं किया जा सकता है।
अध्ययन में चार क्षमताओं की भी पहचान की गई है, जिसमें कहा गया है कि अस्तित्व के लिए खतरा पैदा करने के लिए एआई के पास होना चाहिए: “(i) प्रमुख साइबर-भौतिक प्रणालियों के साथ एकीकरण, (ii) मानव रखरखाव के बिना जीवित रहने की क्षमता, (iii) मानव विलुप्त होने का उद्देश्य, और (iv) मनुष्यों को पता लगाने से बचने के लिए मनाने या धोखा देने की क्षमता।”
लेकिन हाल के घटनाक्रमों, जिनमें पश्चिम और दक्षिण एशिया और पूर्वी यूरोप में संघर्ष शामिल हैं, ने परमाणु हथियारों और एआई को मिश्रित करने वाली चिंताओं को जीवित रखा है।
इस तरह के खतरे से निपटने के लिए किसी विशिष्ट संधि के अभाव में, 16 जुलाई को नोबेल पुरस्कार विजेताओं, एआई वैज्ञानिकों, धार्मिक नेताओं और अन्य दिग्गजों के एक समूह ने तथाकथित ‘निहत्थे और निहत्थे शांति के लिए रोम घोषणा’ पर हस्ताक्षर किए। घोषणा स्वायत्त प्रणालियों को परमाणु प्रक्षेपणों तक पहुंचने से प्रतिबंधित करने के लिए एक अंतरराष्ट्रीय संधि का आह्वान करते हुए इस बात पर जोर दिया गया कि खतरा इतना दूर तक नहीं है।
पोप लियो XIV के विश्वकोश से प्रेरित मैग्निफिका ह्यूमनिटासजिसने तकनीकी अतिरेक के खिलाफ मानवीय गरिमा की रक्षा के लिए एक “स्पष्ट आह्वान” जारी किया, घोषणा को एक संधि के लिए एक प्रभावशाली धक्का के बजाय एक संकेत के रूप में अधिक पढ़ा जा सकता है। वर्तमान में, देशों के बीच इस बात पर कोई सहमति नहीं है कि ऐसी संधि में क्या शामिल होना चाहिए या यहां तक कि युद्ध के मोर्चे पर स्वायत्त क्षमताओं वाले एआई पर प्रतिबंध लगाने पर भी।
घोषणा के सिद्धांत
घोषणापत्र में छह सिद्धांतों को स्पष्ट किया गया है (शब्दशः उद्धृत):
(i) हथियारों की अगली होड़ को निरस्त्र करना,
(ii) जिम्मेदार विकास,
(iii) एआई का जिम्मेदार उपयोग,
(iv) जिम्मेदार शासन,
(v) जिम्मेदार नेतृत्व, और
(vi) परमाणु निरस्त्रीकरण।
इन उद्देश्यों के लिए, इसने पांच नैतिक और परिचालन सिद्धांतों को भी सामने रखा, जो इस प्रकार हैं (शब्दशः उद्धृत भी):
1. “अनिवार्य सार्थक मानव नियंत्रण” – परमाणु हथियारों के उपयोग या तैनाती के संबंध में अंतिम निर्णय लेने से किसी भी स्वचालित, एल्गोरिथम या एआई-संचालित प्रणाली को पूरी तरह से प्रतिबंधित करना।
2. “‘डिजिटल कॉमन्स’ मॉडल” – इस तथ्य पर आधारित है कि जिन लोगों के पास एआई जैसी प्रौद्योगिकियों तक पहुंच या नियंत्रण नहीं है, उनके अनपेक्षित परिणामों से अधिक प्रभावित होने की संभावना है; इसके आधार पर, घोषणापत्र में अनियंत्रित एआई समेत अस्तित्वगत खतरों को बेहतर ढंग से समझने के लिए विशेषज्ञों के लिए अधिक डेटा की मांग की गई है।
3. “जिम्मेदार विकास” – एआई के डेवलपर्स के लिए एक आदेश है कि वे अपने मॉडलों का मार्गदर्शन करने वाले नैतिक ढांचे को प्रकाशित करें और पूरी तरह से स्वायत्त और आत्म-सुधार प्रणालियों की खोज को स्पष्ट रूप से प्रतिबंधित करें जिनकी निगरानी, ऑडिट या मानव ऑपरेटरों द्वारा अचानक रोक नहीं की जा सकती है।
4. “आंतरिक शस्त्रागार भेद्यता ऑडिट” – दुनिया के परमाणु राज्यों से मौजूदा परमाणु कमांड-और-नियंत्रण प्रणालियों को एआई-संचालित साइबर-छेड़छाड़ या अनधिकृत एल्गोरिथम हस्तक्षेप से बचाने के लिए कठोर आंतरिक समीक्षा करने का एक तत्काल अनुरोध।
5. “समयबद्ध, सत्यापन योग्य निरस्त्रीकरण” – परमाणु हथियारों को पूरी तरह से, अपरिवर्तनीय और सत्यापित रूप से समाप्त करने के लिए सद्भावनापूर्ण अंतर्राष्ट्रीय वार्ता का नवीनीकरण।
एक आवश्यक घोषणा
घोषणा सामयिक एवं सराहनीय है। यह समझने के लिए कि, किसी को मानक युद्ध-विरोधी बयानबाजी से परे और भू-राजनीति, सैन्य प्रौद्योगिकियों और एआई का उपयोग करने के तरीकों की समकालीन परिचालन वास्तविकताओं की ओर देखना होगा। वास्तव में, घोषणा पाठ उन गंभीर प्रणालीगत संकटों पर चिंताओं को अच्छी तरह से दर्शाता है जो हाल ही में कई खतरनाक कारकों और बढ़ती खामियों के कारण उत्पन्न हुए हैं।
उदाहरण के लिए, ‘पारस्परिक रूप से सुनिश्चित विनाश’ की अवधारणा – जिसमें विरोधी पक्ष एक-दूसरे पर परमाणु हथियारों से हमला करने से बचते हैं क्योंकि पहला हमला विनाशकारी प्रतिशोध को ट्रिगर कर सकता है, दोनों पक्षों को नष्ट कर सकता है – मानवीय झिझक, राजनयिक बैकचैनल और नैतिक ठहराव पर बहुत अधिक निर्भर करता है। 1962 के क्यूबा मिसाइल संकट और 1983 में स्टैनिस्लाव पेट्रोव से जुड़ी सोवियत परमाणु झूठी अलार्म घटना के दौरान, आपदा को ठीक से टाला गया था क्योंकि मानव ने सावधानी, अंतर्ज्ञान, संदेह और नैतिक विकल्प का प्रयोग किया था।
25 अक्टूबर, 1962 की इस तस्वीर में, संयुक्त राष्ट्र में अमेरिकी राजदूत एडलाई स्टीवेन्सन क्यूबा में रूसी आर-12 मिसाइलों के सबूत संयुक्त राष्ट्र सुरक्षा परिषद को प्रस्तुत करते हैं। | फोटो साभार: सार्वजनिक डोमेन
हालाँकि, एआई-संचालित भविष्य कहनेवाला लॉजिस्टिक्स और स्वायत्त युद्ध प्रबंधन प्रणालियाँ ऐसी गति से काम करती हैं जो निर्णय लेने की विंडो को कई घंटों से लेकर कुछ सेकंड तक सीमित कर देती है। इसलिए जब कोई एल्गोरिदम यह बताता है कि उसने जो निष्कर्ष निकाला है वह एक आने वाली मिसाइल है, तो ‘स्वचालित लूप’ में फंसे एक मानव ऑपरेटर के पास डेटा को गंभीर रूप से सत्यापित करने, साथियों से परामर्श करने या तनाव कम करने के लिए आवश्यक समय की व्यावहारिक खिड़की नहीं हो सकती है।
इस प्रकार, घोषणा यह मानती है कि रणनीतिक कमांड संरचनाओं में एआई को शामिल करना मूल रूप से मानव निर्णय को कम्प्यूटेशनल मार्गदर्शन से बदल देता है, और ‘सुरक्षा वाल्व’ को खत्म कर सकता है जो मानव संदेह और झिझक है। इन परिदृश्यों में, लूप में मौजूद मानव भी घबराहट या बेचैनी से अभिभूत हो सकता है और मशीन द्वारा सुझाए गए मूल्यांकन के साथ जा सकता है।
दूसरा, बड़े भाषा मॉडल और गहरे तंत्रिका नेटवर्क अच्छी तरह से प्रलेखित विफलता मोड जैसे मतिभ्रम और डेटा विषाक्तता (एआई व्यवहार में हेरफेर करने के लिए दुर्भावनापूर्ण रूप से प्रशिक्षण डेटा को दूषित करना) से ग्रस्त हैं। सामान्य परिस्थितियों में, एक ख़राब एल्गोरिदम के परिणामस्वरूप एक दूषित छवि या दोषपूर्ण भविष्यवाणी हो सकती है, जिसे सुधारने के लिए अपर्याप्त समय होगा। और एक भू-राजनीतिक संकट में, एक छवि या एक नियमित नेटवर्क पिंग को एक आसन्न, स्पष्ट और बड़े खतरे के रूप में गलत व्याख्या करने वाला एल्गोरिदम स्वचालित रूप से तार्किक प्रतिक्रिया के रूप में एक प्रतिशोधी अनुक्रम को ट्रिगर कर सकता है। इससे भी बदतर, एक एल्गोरिथम गलत सकारात्मक जो प्रतिक्रिया देने या निर्णय लेने के लिए निर्णय विंडो को कुछ सेकंड तक सीमित कर देता है, जिसके परिणामस्वरूप अप्रत्याशित या विनाशकारी परिणामों के साथ अनजाने में प्रतिशोध हो सकता है।
चूंकि अधिकांश एआई मॉडल का तर्क भी एक ‘ब्लैक बॉक्स’ के भीतर होता है, इसलिए उन निर्णयों पर भरोसा करना जो लाखों लोगों के जीवन को प्रभावित कर सकते हैं, नैतिक और वैज्ञानिक जिम्मेदारी के विपरीत है।
तीसरा, वैश्विक व्यवस्था गहरे संकट में है। दशकों की कड़ी मेहनत से हासिल की गई सुरक्षा संरचना – चाहे इंटरमीडिएट-रेंज परमाणु बल संधि, ओपन स्काई संधि या न्यू स्टार – लड़खड़ा रही है। इसी समय, एक अनियंत्रित, बहुध्रुवीय हथियारों की दौड़ चल रही है क्योंकि परमाणु राष्ट्र सक्रिय रूप से अपने भंडार का विस्तार या आधुनिकीकरण कर रहे हैं।
एक बाध्यकारी नैतिक और कानूनी ढांचे के अभाव में, एक खतरनाक सुरक्षा दुविधा पैदा हो सकती है जिसमें राज्य अभिनेता अपने रक्षा नेटवर्क को इस डर से स्वचालित करने के लिए मजबूर महसूस करते हैं कि उनके विरोधियों के पास पहले से ही एल्गोरिदमिक गति लाभ है या होगा।
इस प्रकार घोषणापत्र व्यामोह के इस चक्र को तोड़ने की आवश्यकता पर बात करता है, और संयम की एक उद्देश्यपूर्ण आधार रेखा प्रदान करता है जो मानव नियंत्रण को बाध्यकारी कानूनी शर्त के रूप में नहीं मानता है।
चौथा, “की अवधारणा को चित्रित करनानिहत्थे और निहत्थे शांतिपोप लियो XIV से, हस्ताक्षरकर्ता बताते हैं कि सीमांत एआई विकास का वर्तमान प्रक्षेप पथ है प्रथम दृष्टया एक अस्थिर करने वाली शक्ति.
जब प्रौद्योगिकियाँ कुछ कंपनियों और/या राष्ट्रों के हाथों में केंद्रित हो जाती हैं, और सैन्य प्रभुत्व स्थापित करने के लिए उपयोग की जाती हैं, तो वे तटस्थ नहीं रह जाती हैं। वास्तव में, वे गैर-परमाणु देशों के बीच सुरक्षा चिंताओं को बढ़ाते हैं। और घोषणा सही ढंग से पहचानती है कि सच्ची शांति के लिए हिंसा के लिए अंतर्निहित प्रेरणाओं, जैसे भय, प्रणालीगत अहंकार और डिजिटल प्रभुत्व के माध्यम से पूर्ण सुरक्षा का भ्रम को खत्म करना आवश्यक है।
पोप लियो XIV बार्सिलोना के पास, आवर लेडी ऑफ मोंटसेराट के मठ की बालकनी से हाथ हिलाते हुए। उन्होंने 6-12 जून के दौरान स्पेन का दौरा किया, जब वह प्रवासियों और उनकी मदद के लिए समर्पित संगठनों से मिलेंगे। | फोटो साभार: एएफपी
ईरान का परमाणु कार्यक्रम
वास्तविक दुनिया के भू-राजनीतिक संकट वर्तमान में उन आशंकाओं का परीक्षण कर रहे हैं जिन्हें घोषणापत्र दूर करना चाहता है – और शायद ईरानी परमाणु कार्यक्रम के अस्थिर प्रक्षेपवक्र से ज्यादा कुछ नहीं, जो अन्य चीजों के अलावा, प्रत्यक्ष सैन्य व्यस्तताओं और जटिल राजनयिक गतिरोधों द्वारा चिह्नित किया गया है।
ईरान द्वारा अपने अप्रसार दायित्वों के उल्लंघन और उसके बाद अमेरिका और इज़राइल द्वारा बड़े संयुक्त सैन्य हमलों के बाद, हथियार नियंत्रण की पारंपरिक वास्तुकला पूरी तरह से टूटने का खुलासा हुआ है।
कई विरोधियों के साथ अत्यधिक प्रतिस्पर्धी माहौल में, सेनाएं उन्नत लक्ष्य लक्षण वर्णन और पूर्वानुमानित खुफिया ट्रैकिंग के लिए एआई का तेजी से लाभ उठा रही हैं। जब अंतर्राष्ट्रीय निरीक्षण और राजनयिक बफ़र्स टूट जाते हैं, तो सक्रिय परमाणु सुविधाओं की निगरानी के लिए बड़े पैमाने पर एल्गोरिथम डेटा प्रोसेसिंग पर निर्भर रहने वाले राज्य भी असत्यापित एल्गोरिथम मूल्यांकन ट्रिगरिंग कार्रवाई के जोखिम को काफी हद तक बढ़ा देते हैं (जैसा कि ऊपर चर्चा की गई है)।
आज, भूमिगत सुविधाओं को सुरक्षित करने, उन्नत सेंट्रीफ्यूज लॉजिस्टिक्स को अनुकूलित करने और आने वाली डिजिटल घुसपैठ से बचाव के लिए एआई का उपयोग करना संभव है।
हालाँकि, यदि किसी संवर्धन सुविधा को नियंत्रित करने या निगरानी करने वाली एआई प्रणाली किसी विनाशकारी हमले की प्रस्तावना के रूप में एक मानक नेटवर्क जांच या मात्र भौतिक हमले की गलत व्याख्या करती है, तो इसके स्वचालित रक्षा प्रोटोकॉल तत्काल लेकिन असंगत मिसाइल प्रतिक्रिया को भी ट्रिगर कर सकते हैं। और यह तब भी हो सकता है जब कोई राज्य यह निर्णय ले कि उसे क्या करना चाहिए, जिसमें महत्वपूर्ण रूप से यह भी शामिल है कि क्या उसे अन्य कर्ताओं के साथ संवाद करने का प्रयास करना चाहिए।
असममित गति
उन्नत प्रतिद्वंद्वियों का सामना करने वाला राज्य अपने रणनीतिक रक्षा नेटवर्क को स्वचालित करने से भी अधिक उम्मीद कर सकता है। यदि किसी अभिनेता का मानना है कि किसी प्रतिद्वंद्वी के एआई-संचालित लक्ष्यीकरण से उनकी कमांड संरचनाओं से समझौता किया जा सकता है या उन्हें पीछे छोड़ दिया जा सकता है, तो उनके पास एल्गोरिदम प्रणाली को प्रतिक्रिया प्राधिकरण पूर्व-सौंपने के लिए एक मजबूत प्रोत्साहन है।
घोषणा इस घातक परिदृश्य को संबोधित करती है और उचित रूप से चेतावनी देती है कि स्वचालन का उपयोग करके सामरिक गति लाभ प्राप्त करने का प्रयास एक असहनीय, सर्पिल वृद्धि का मार्ग प्रशस्त कर सकता है जिसे – एक बिंदु से परे – कोई भी राज्य सुरक्षित रूप से नियंत्रित करने में सक्षम नहीं हो सकता है।
इस प्रकार, एक अर्थ में, ‘निहत्थे और निहत्थे शांति के लिए रोम घोषणा’ तकनीकी भाग्यवाद और प्रौद्योगिकी में अंध विश्वास के खिलाफ एक महत्वपूर्ण हस्तक्षेप है। यह चाहता है कि मानवता आईने में देखे और इस तथ्य पर विचार करे कि परमाणु हार्डवेयर को नियंत्रित करने के लिए स्वायत्त सॉफ़्टवेयर की अनुमति देना एक अस्तित्वगत जुआ है जिसे मानव जाति केवल हार सकती है।
शिखर सम्मेलन के दौरान जब घोषणापत्र पर हस्ताक्षर किए गए, भौतिक विज्ञानी और नोबेल भौतिकी पुरस्कार विजेता डेविड ग्रॉस ने कहा कि पाठ की अंतिम सफलता गहन सार्वजनिक जागरूकता पैदा करने में निहित है जो तब जमीनी स्तर पर दबाव डालती है। घोषणापत्र डिजिटल सीमा के अनियंत्रित सैन्यीकरण को चुनौती देने के लिए आवश्यक नैतिक, दार्शनिक और तकनीकी शब्दावली भी प्रदान करता है। कांटेदार तथ्य यह है कि यद्यपि प्रौद्योगिकी को स्वचालित किया जा सकता है, हमारी सामूहिक नैतिक जिम्मेदारी – जो भावी पीढ़ियों के अस्तित्व को सुनिश्चित करने के लिए आवश्यक है – को कभी भी किसी मशीन या एआई द्वारा संचालित सिस्टम को आउटसोर्स नहीं किया जाना चाहिए, चाहे वह कितना भी बुद्धिमान क्यों न बनाया गया हो।
यह देखना अभी बाकी है कि दुनिया के राज्य घोषणापत्र की कार्रवाई के आह्वान पर कैसे प्रतिक्रिया देते हैं। इस तथ्य को देखते हुए कि कई राज्य युद्ध में एआई के उपयोग और भूमिका से संबंधित संधि पर बातचीत करने और हस्ताक्षर करने के लिए अनिच्छुक हैं, घोषणा के लक्ष्य महत्वाकांक्षी लगते हैं। लेकिन इसमें कोई संदेह नहीं होना चाहिए कि इसकी चेतावनियाँ सही हैं।
कृष्णा रवि श्रीनिवास डीपीआईआईटी-आईपीआर के अध्यक्ष प्रोफेसर और निदेशक, एआई और कानून में उत्कृष्टता केंद्र, एनएएलएसएआर यूनिवर्सिटी ऑफ लॉ, हैदराबाद हैं।
