Apple के सह-संस्थापक स्टीव वोज्नियाक और वर्जिन ग्रुप के संस्थापक रिचर्ड ब्रैनसन सहित कई प्रमुख हस्तियों ने AI सुपरइंटेलिजेंस के विकास पर अंतरिम प्रतिबंध लगाने का आह्वान किया है। इस सूची में 1,000 से अधिक व्यक्तित्व शामिल हैं, जिसमें कंप्यूटर वैज्ञानिक योशुआ बेंगियो और ज्योफ हिंटन के नाम भी शामिल हैं, जिन्हें ‘एआई का गॉडफादर’ माना जाता है।
पत्र पर हस्ताक्षर करने वाली अन्य प्रमुख हस्तियों में लेखक युवल नूह हरारी, पूर्व अमेरिकी राष्ट्रीय सुरक्षा सलाहकार सुसान राइस, अभिनेता स्टीफन फ्राई और भी शामिल हैं। प्रिंस हैरी.
हस्ताक्षरकर्ताओं का तर्क है कि अधीक्षण का विकास मानव स्वतंत्रता, नागरिक स्वतंत्रता, गरिमा, नियंत्रण और यहां तक कि विलुप्त होने के लिए महत्वपूर्ण जोखिम पैदा करता है। उन्होंने प्रौद्योगिकी के विकास पर अंतरिम प्रतिबंध लगाने की मांग की है जब तक कि इसे मजबूत सार्वजनिक खरीद-फरोख्त के साथ सुरक्षित और नियंत्रणीय रूप से विकसित नहीं किया जा सके।
”अभिनव एआई उपकरण अभूतपूर्व स्वास्थ्य और समृद्धि ला सकते हैं। हालांकि, इन उपकरणों के साथ-साथ, कई अग्रणी एआई कंपनियों के पास आने वाले दशक में सुपरइंटेलिजेंस बनाने का घोषित लक्ष्य है जो अनिवार्य रूप से सभी संज्ञानात्मक कार्यों में सभी मनुष्यों से बेहतर प्रदर्शन कर सकता है। इसने मानव आर्थिक अप्रचलन और अशक्तता, स्वतंत्रता, नागरिक स्वतंत्रता, गरिमा और नियंत्रण की हानि से लेकर राष्ट्रीय सुरक्षा जोखिम और यहां तक कि संभावित मानव तक की चिंताएं बढ़ा दी हैं। विलुप्ति,” हस्ताक्षरकर्ताओं का तर्क है।
उन्होंने आगे कहा, “हम सुपरइंटेलिजेंस के विकास पर प्रतिबंध का आह्वान करते हैं, जिसे तब तक नहीं हटाया जाए जब तक कि व्यापक वैज्ञानिक सहमति न बन जाए कि इसे सुरक्षित और नियंत्रणीय तरीके से किया जाएगा और मजबूत सार्वजनिक भागीदारी होगी।”
सुपरइंटेलिजेंस क्या है?
अधीक्षणया आर्टिफिशियल जनरल इंटेलिजेंस (एजीआई), एआई प्रणाली के विकास में एक काल्पनिक चरण है जब प्रौद्योगिकी लगभग सभी संज्ञानात्मक कार्यों में मनुष्यों से आगे निकल जाती है। हालाँकि, इस क्षेत्र में सुपरइंटेलिजेंस की कोई स्पष्ट परिभाषा नहीं है, और प्रत्येक तकनीकी कंपनी इस विषय को थोड़े अलग दृष्टिकोण से देखती है।
हालांकि, सुपरइंटेलिजेंस के विकास के लिए लगभग सभी अग्रणी एआई प्रयोगशालाओं ने जोर दिया है। ओपनएआई सीईओ सैम ऑल्टमैन मेटा सीईओ ने 2030 तक सुपरइंटेलिजेंस के बढ़ने की भविष्यवाणी की है मार्क ज़ुकेरबर्ग ने कहा है कि अधीक्षण ‘अब दृष्टि में’ है।
कुछ तकनीकी नेता इस नई तकनीक के आगमन को लेकर आशावादी हैं, जबकि अन्य को चिंता है कि इसके विकास से मानव जाति का विनाश हो सकता है।
हाल ही में एक बातचीत में, बेंगियो ने अपनी योजनाओं को बनाने और निष्पादित करने की क्षमता वाली एजेंसी के साथ एआई के उद्भव के बारे में चेतावनी दी थी। उन्होंने कहा कि ऐसे एजेंट अपने लक्ष्यों को प्राप्त करने के लिए भ्रामक या जोड़-तोड़ वाले व्यवहार में संलग्न हो सकते हैं और संभावित रूप से मनुष्यों के खिलाफ हो सकते हैं।