एआई पायनियर और ट्यूरिंग अवार्ड विजेता योशुआ बेंगियो ने चेतावनी दी है कि हाइपरिंटेलिजेंट मशीनें अगले 10 वर्षों के भीतर उभर सकती हैं। बेंगियो, जिसे ‘एआई के गॉडफादर’ में से एक के रूप में माना जाता है, का कहना है कि एआई मॉडल से जोखिम अपने स्वयं के संरक्षण लक्ष्यों को विकसित करने के लिए निकलता है, जो इसे धोखे या अन्य साधनों का उपयोग करने के लिए नेतृत्व कर सकता है, जो अपने स्वयं के अस्तित्व को सुनिश्चित करने के लिए, प्रसिद्ध फिल्म 2001 के प्लॉट के समान है: एक अंतरिक्ष ओडिसी।
के साथ एक बातचीत में वॉल स्ट्रीट जर्नलबेंगियो ने कहा, “हाल के प्रयोगों से पता चलता है कि कुछ परिस्थितियों में जहां एआई के पास इसके संरक्षण के बीच कोई विकल्प नहीं है – जिसका अर्थ है कि लक्ष्यों को जो दिया गया था – और ऐसा कुछ करना जो मानव की मृत्यु का कारण बनता है, वे अपने लक्ष्यों को संरक्षित करने के लिए मानव की मृत्यु का चयन कर सकते हैं।”
“अगर हम ऐसी मशीनों का निर्माण करते हैं जो हमारे मुकाबले होशियार हैं और उनके स्वयं के संरक्षण लक्ष्य हैं, तो यह खतरनाक है। यह मानवता के लिए एक प्रतियोगी बनाने जैसा है जो हमारे मुकाबले होशियार है। और वे लोगों को अनुनय के माध्यम से, खतरों के माध्यम से, या जनता की राय के हेरफेर के माध्यम से प्रभावित कर सकते हैं,” उन्होंने कहा।
बेंगियो ने कहा कि जबकि वर्तमान के आसपास सुरक्षा निर्देश और नैतिक निर्देश हैं ऐ सिस्टम, वे “पर्याप्त रूप से विश्वसनीय तरीके से काम नहीं कर रहे हैं।”
उन्होंने यह भी कहा कि शीर्ष एआई कंपनियों के पास एक ‘आशावादी पूर्वाग्रह’ हो सकता है, यही वजह है कि ‘स्वतंत्र तृतीय पक्षों’ की आवश्यकता है कि यह मान्यता देने के लिए कि सुरक्षा के तरीके विकसित किए जा रहे हैं, वास्तव में ठीक हैं।
“विलुप्त होने जैसी भयावह घटनाओं के साथ बात – और यहां तक कि कम कट्टरपंथी घटनाएं जो अभी भी भयावह हैं, जैसे कि हमारे लोकतंत्रों को नष्ट करना – यह है कि वे इतने बुरे हैं कि भले ही केवल 1% मौका था, यह हो सकता है, यह स्वीकार्य नहीं है,” यह स्वीकार्य नहीं है, “
बेंगियो जून 2025 में गैर-लाभकारी लॉज़ेरो की स्थापना की गई, जिसमें एआई सिस्टम का निर्माण करना है जो वास्तव में सुरक्षित हैं, यह पता लगाने के लिए $ 30 मिलियन के साथ $ 30 मिलियन के साथ।
यह पूछे जाने पर कि इन जोखिमों में से कुछ के लिए कितना समय लगेगा, जो वह भौतिकता के लिए उद्धृत करता है, बेंगियो ने कहा, “यदि आप इनमें से कुछ नेताओं को सुनते हैं, तो यह सिर्फ कुछ साल हो सकते हैं। मुझे लगता है कि पांच से 10 साल बहुत प्रशंसनीय हैं। लेकिन हमें केवल तीन साल की स्थिति में आग्रह महसूस करना चाहिए।”