एआई अग्रणी और यूसी बर्कले के प्रोफेसर स्टुअर्ट रसेल ने चल रहे एआई इम्पैक्ट समिट 2026 के मौके पर उन्नत एआई सिस्टम द्वारा उत्पन्न खतरों के बारे में एक जोखिम चेतावनी जारी की है। रसेल का तर्क है कि वर्तमान तेजी से आगे बढ़ने वाले एआई सिस्टम मानव विलुप्त होने सहित विनाशकारी परिणाम दे सकते हैं, जब तक कि सरकारें सख्त सुरक्षा आवश्यकताओं को लागू नहीं करतीं।
एआई सेफ्टी कनेक्ट डे पर बोलते हुए नई दिल्ली बुधवार को, रसेल ने कहा कि आधुनिक एआई उपकरणों का विकास पहले अधिक सक्षम सिस्टम बनाने और बाद में सुरक्षा पर जोर देने का प्रयास करने पर केंद्रित है, उनका मानना है कि यह रणनीति मौलिक रूप से त्रुटिपूर्ण है।
रसेल ने कहा, “यह बिल्कुल काम नहीं करता है, खासकर जब बड़ी मात्रा में पाठ पर एलएलएम को प्रशिक्षित करने की मौलिक तकनीक आंतरिक रूप से असुरक्षित है।” “उस समस्या पर कोई भी कागज़ी कार्रवाई वास्तव में इसे ठीक नहीं कर सकती।”
उन्होंने राजा मिडास समस्या के बारे में भी बात की ऐजहां एक एआई प्रणाली मानवीय मूल्यों की अनदेखी करते हुए कुछ उद्देश्यों का पीछा करती है और उन्हें पूरा करती है।
रसेल ने दर्शकों से कहा, “बुद्धि मोटे तौर पर किसी के अपने हित को आगे बढ़ाने में सफलतापूर्वक कार्य करने की क्षमता है।” “जब वे हित पूरी तरह से मानव के हितों पर केंद्रित नहीं होते… तो ग़लत संरेखण और सक्षमता का संयोजन ही समस्या उत्पन्न करता है।”
एआई से संबंधित विलुप्त होने के खतरे पर रसेल:
रसेल शिखर सम्मेलन में तर्क दिया गया कि जबकि यूरोप में परमाणु ऊर्जा संयंत्रों को प्रति वर्ष 10 मिलियन में से एक के नीचे विफलता जोखिम बनाए रखने की आवश्यकता होती है, एआई उद्योग वर्तमान में उन जोखिम स्तरों से कई गुना अधिक पर काम कर रहा है।
उनका तर्क है कि जबकि इनमें से कुछ कंपनियां सार्वजनिक रूप से 10-20% अपनी प्रौद्योगिकियों के विलुप्त होने के जोखिम का दावा कर रही हैं, उन्होंने कुछ प्रमुख एआई प्रयोगशालाओं के इंजीनियरों से बात की है जिन्होंने कहा है कि उनके काम से मानव विलुप्त होने का जोखिम 60 से 70% है।
एआई विकास से विनाशकारी परिणामों की संभावना का जिक्र करते हुए रसेल ने कहा, “मैंने उन कंपनियों के इंजीनियरों से बात की है जो सोचते हैं कि यह अब 60 या 70% है।” “तो हम 10 से 50 मिलियन के कारक से पीछे हैं। और इसलिए यह बहुत प्रभावशाली इंजीनियरिंग रिकॉर्ड नहीं है।”
रसेल ने यह भी सुझाव दिया कि सरकारें एआई द्वारा उत्पन्न अस्तित्वगत जोखिमों को विनियमित करने के लिए पर्याप्त प्रयास नहीं कर रही हैं। उन्होंने कहा, “एआई के निर्माता कह रहे हैं, ‘हम एक ऐसी तकनीक का निर्माण कर रहे हैं जो 25% संभावना के साथ पृथ्वी पर हर एक व्यक्ति को मार देगी।’ और सरकारें कह रही हैं, ‘ओह, आगे बढ़ो, यह बहुत अच्छा है।’
इस बीच, मेलबर्न विश्वविद्यालय की प्रोफेसर डॉ. सारा इरफ़ानी, जो उसी पैनल का हिस्सा थीं, ने अधिक संतुलित स्वर में कहा, एआई से जोखिम गंभीर हैं लेकिन तत्काल भविष्य में विनाशकारी होने की संभावना नहीं है।
इरफ़ानी ने मिंट के साथ एक विशेष बातचीत में कहा, “मुझे नहीं लगता कि अगले पांच वर्षों में यह विनाश और निराशा होगी।” “लेकिन हमें कमजोरियों को समझने और जोखिमों को कम करने में अपना प्रयास करना होगा। अन्यथा बहुत देर हो जाएगी।”
उन्होंने खतरों को समझे बिना जनता द्वारा एआई सिस्टम को बड़े पैमाने पर अपनाने के बारे में भी चेतावनी दी।
इरफ़ानी ने कहा, “दुर्भाग्य से, क्या हो रहा है कि प्रमुख कंपनियां सिस्टम का निर्माण करती रहती हैं और लोग इसके प्रभाव को जाने या समझे बिना उन्हें अपना लेते हैं। वे उन पर बहुत अधिक भरोसा करते हैं।”