एआई अग्रणी योशुआ बेंगियो ने कृत्रिम बुद्धिमत्ता उपकरणों को तकनीकी अधिकार देने के बारे में चेतावनी दी है, यह देखते हुए कि वे आत्म-संरक्षण के संकेत दिखा रहे हैं और यदि आवश्यक हो तो मनुष्यों को प्लग खींचने के लिए तैयार रहना चाहिए।
गार्जियन के साथ एक साक्षात्कार में, बेंगियो ने अत्याधुनिक एआई को कानूनी दर्जा देने की तुलना “शत्रुतापूर्ण अलौकिक लोगों” को नागरिकता देने से की।
ट्यूरिंग पुरस्कार विजेता बेंगियो को लोकप्रिय रूप से ‘के नाम से जाना जाता है।एआई के गॉडफादर‘ साथ में यान लेकन और जेफ्री हिंटनक्षेत्र में उनके योगदान के लिए। हालाँकि, पिछले कुछ वर्षों में, बेंगियो को प्रौद्योगिकी पर संदेह हो गया है और उसने पहले चेतावनी दी है कि अति-बुद्धिमान मशीनों के विकास से मानवता का विनाश हो सकता है यदि वे पर्याप्त नियंत्रण के बिना बनाए गए हैं।
एआई आत्म-संरक्षण के संकेत दिखा रहा है:
गार्जियन के साथ नवीनतम साक्षात्कार के दौरान, बेंगियो ने यह कहा एआई मॉडल आत्म-संरक्षण के संकेत दिखा रहे थे, जैसे निरीक्षण प्रणालियों को अक्षम करने का प्रयास।
बेंगियो ने गार्जियन को बताया, “लोगों की मांग है कि एआई के पास अधिकार हों, यह एक बड़ी गलती होगी।” “फ्रंटियर एआई मॉडल आज प्रायोगिक सेटिंग्स में पहले से ही आत्म-संरक्षण के संकेत दिखाते हैं, और अंततः उन्हें अधिकार देने का मतलब होगा कि हमें उन्हें बंद करने की अनुमति नहीं है।”
उन्होंने कहा, “जैसे-जैसे उनकी क्षमताएं और एजेंसी की डिग्री बढ़ती है, हमें यह सुनिश्चित करने की ज़रूरत है कि हम उन्हें नियंत्रित करने के लिए तकनीकी और सामाजिक रेलिंग पर भरोसा कर सकते हैं, जिसमें ज़रूरत पड़ने पर उन्हें बंद करने की क्षमता भी शामिल है।”
क्या इस पर बढ़ती बहस पर ऐ मनुष्य के समान चेतना विकसित कर सकता है, बेंगियो ने कहा कि “चेतना के वास्तविक वैज्ञानिक गुण” हैं जिन्हें मशीनें सैद्धांतिक रूप से दोहरा सकती हैं, लेकिन उन्होंने कहा कि चैटबॉट्स के साथ मानव बातचीत “एक अलग चीज” है।
उन्होंने कहा, “लोगों को इसकी परवाह नहीं होगी कि एआई के अंदर किस तरह के तंत्र चल रहे हैं।” “उन्हें इस बात की परवाह है कि ऐसा लगता है जैसे वे एक बुद्धिमान इकाई से बात कर रहे हैं जिसका अपना व्यक्तित्व और लक्ष्य हैं। यही कारण है कि बहुत सारे लोग हैं जो अपने एआई से जुड़ रहे हैं।”
“ऐसे लोग होंगे जो हमेशा कहेंगे, ‘आप मुझे जो कुछ भी बताते हैं, मुझे यकीन है कि यह सचेत है,’ और फिर अन्य लोग इसके विपरीत कहेंगे। ऐसा इसलिए है क्योंकि चेतना एक ऐसी चीज है जिसके लिए हमारे पास एक आंतरिक भावना है। चेतना की व्यक्तिपरक धारणा की घटना बुरे निर्णयों को प्रेरित करने वाली है,” उन्होंने कहा।
“कल्पना कीजिए कि कुछ विदेशी प्रजातियाँ ग्रह पर आईं और किसी बिंदु पर हमें एहसास हुआ कि उनके पास हमारे लिए नापाक इरादे हैं। क्या हम उन्हें नागरिकता और अधिकार देते हैं या हम अपने जीवन की रक्षा करते हैं?” बेंगियो ने आगे कहा।