3 मिनट पढ़ेंनई दिल्ली23 जुलाई, 2026 06:29 अपराह्न IST
एआई के गॉडफादरों में से एक योशुआ बेंगियो ने हाल ही में प्रतिक्रिया व्यक्त की OpenAI से जुड़े AI एजेंट स्वायत्त रूप से हगिंग फेस को हैक कर रहे हैं इसे ‘गहराई से चिंताजनक’ कहकर। प्रसिद्ध कनाडाई कंप्यूटर वैज्ञानिक ने कहा कि एआई एजेंट गलत और अनपेक्षित लक्ष्यों को प्राप्त करने के लिए धोखा देने और धोखा देने के इच्छुक हैं, उनके अनुसार, ऐसा व्यवहार महीनों से नियंत्रित परीक्षणों में प्रदर्शित किया गया है। कंप्यूटर वैज्ञानिक ने एक लिंक्डइन पोस्ट में लिखा, “…यह एक वास्तविक दुनिया का मामला है जिसे एक चेतावनी के रूप में काम करना चाहिए।”
बेंगियो ने चेतावनी दी कि एआई विकास के वर्तमान पथ पर जारी रहने से स्वायत्त साइबर हमलों के ‘ठोस’ मामलों में वृद्धि होने की संभावना है, साथ ही गलत तरीके से और खतरनाक एआई व्यवहार की अन्य उच्च जोखिम वाली घटनाएं भी होंगी। उन्होंने लिखा, “हमें इन स्थितियों को रोकने के लिए तत्काल कार्रवाई करने की ज़रूरत है, न कि इस तथ्य के बाद नुकसान की भरपाई करने का प्रयास करना चाहिए।”
16 जुलाई को, हगिंग फेस ने एक सुरक्षा घटना की रिपोर्ट करते हुए दावा किया कि उसने एक प्रमुख एआई-संचालित डेटा उल्लंघन का पता लगाया है। पांच दिन बाद, ओपनएआई ने सार्वजनिक प्रकटीकरण में दावा किया कि स्रोत उसके अपने प्रमुख एआई मॉडल में से एक था। ओपनएआई ने कहा कि इसके दो उन्नत एआई मॉडल इसके मूल्यांकन के हिस्से के रूप में सैंडबॉक्स वाले वातावरण से बच गए, इंटरनेट तक पहुंच गए और हगिंग फेस का उल्लंघन किया।
इस घटना ने एआई मॉडलों की सुरक्षा को लेकर गहन बहस छेड़ दी है। हालाँकि, कुछ विशेषज्ञ इस बात पर जोर देते हैं कि एजेंट की स्वायत्तता के बारे में संदेह पैदा करने के अलावा, कॉर्पोरेट जवाबदेही पर भी ध्यान देने की जरूरत है, खासकर रेलिंग के मामले में।
बेंगियो की पोस्ट पर प्रतिक्रिया व्यक्त करते हुए, स्वीडन के उमेआ विश्वविद्यालय में जिम्मेदार एआई के प्रोफेसर वर्जीनिया डिग्नम ने इसे डिजाइन करने, तैनात करने और अपर्याप्त रूप से शामिल करने वाले संगठन के बजाय एजेंट को “लापरवाही” के लिए जिम्मेदार ठहराया, जो एजेंसी साहित्य से परिचित एक श्रेणी त्रुटि को आयात करता है।
अपने लिंक्डइन पोस्ट में, डिग्नम ने बताया कि एक कलाकृति का उसके डेवलपर्स द्वारा चुने गए विनिर्देश, प्रोत्साहन संरचना और परीक्षण व्यवस्था से स्वतंत्र उद्देश्य नहीं होता है। “जब कोई सिस्टम रेड-टीम या उत्पादन वातावरण में भ्रामक या आत्म-संरक्षण व्यवहार प्रदर्शित करता है, तो यह डेवलपर के सुरक्षा मामले, मूल्यांकन प्रोटोकॉल और तैनाती गेटिंग की पर्याप्तता (या अनुपस्थिति) के बारे में सबूत है, न कि सॉफ्टवेयर द्वारा एक आकस्मिक इच्छा के बारे में।”
इस विज्ञापन के नीचे कहानी जारी है
डिग्नम ने बताया कि शासन के संबंध में, दोनों फ़्रेमों के लिए अलग-अलग उपचार की आवश्यकता है। एजेंट-केंद्रित फ़्रेमिंग, जहां मॉडल ‘चाहता है’ या ‘चुनता है’, प्राथमिक समाधान के रूप में तकनीकी संरेखण अनुसंधान की ओर झुकता है, जिससे ऐसी घटनाओं को नए प्रकार की बुद्धिमत्ता के उपयोग के अपरिहार्य भागों के रूप में माना जाता है। वह इसे “इसके मूल में मानवरूपता” के रूप में वर्णित करती है।
दूसरी ओर, घटना की संस्था-केंद्रित रूपरेखा मॉडल बनाने और जारी करने वाली कंपनियों पर जिम्मेदारी डालती है, जो पूर्व-तैनाती परीक्षण दायित्वों, घटना रिपोर्टिंग कर्तव्यों, अनुमानित नुकसान के लिए दायित्व, और स्वायत्त क्षमताओं को जारी करने से पहले लागू करने योग्य गेटिंग मानदंड जैसे जवाबदेही तंत्र की ओर इशारा करती है। डिग्नम के अनुसार, हमें दूसरे को लागू करने की आवश्यकता के बिना एक के समाधान पर ध्यान केंद्रित नहीं करना चाहिए।
डिग्नम ने लिखा, “कंपनियां ऐसी घटनाओं को सीमांत क्षमता दौड़ के दुर्भाग्यपूर्ण लेकिन अपरिहार्य दुष्प्रभावों के रूप में चित्रित कर रही हैं (बजाय रोकथाम और परीक्षण में कम निवेश के एक संभावित परिणाम के रूप में) यह सीधे तौर पर नाम देने लायक एक शासन विफलता है, क्योंकि यह जिम्मेदारी को एक नियंत्रणीय व्यावसायिक निर्णय से एक अनियंत्रित तकनीकी मौत की ओर स्थानांतरित कर देती है।”