सैम ऑल्टमैन का कहना है कि एआई दुरुपयोग जोखिमों को ‘अधिक सूक्ष्म समझ’ की आवश्यकता है क्योंकि ओपनएआई तैयारी के प्रमुख को नियुक्त करना चाहता है

ओपनएआई ने तेजी से सक्षम कृत्रिम बुद्धिमत्ता प्रणालियों से जुड़े बढ़ते जोखिमों के प्रबंधन पर अधिक ध्यान केंद्रित करने का संकेत देते हुए तैयारी प्रमुख को नियुक्त करने की योजना की घोषणा की है।

द्वारा भूमिका का खुलासा किया गया ओपनएआई के मुख्य कार्यकारी सैम ऑल्टमैन शनिवार को एक सोशल मीडिया पोस्ट में, जहां उन्होंने कहा कि कंपनी एक ऐसे चरण में प्रवेश कर रही है जिसमें एआई सिस्टम न केवल अधिक शक्तिशाली हैं, बल्कि साइबर सुरक्षा, मानसिक स्वास्थ्य और सिस्टम दुरुपयोग जैसे क्षेत्रों में नई चुनौतियां भी पेश कर रहे हैं।

उन्नत क्षमताओं पर बढ़ती चिंताएँ

ऑल्टमैन ने कहा कि हाल के घटनाक्रमों से पता चला है कि कैसे उन्नत मॉडल सुरक्षा कमजोरियों की पहचान करना शुरू कर सकते हैं और अप्रत्याशित तरीकों से मानव व्यवहार को प्रभावित कर सकते हैं। हालाँकि ये प्रणालियाँ महत्वपूर्ण लाभ लाती हैं, उन्होंने चेतावनी दी कि उनकी बढ़ती क्षमताएँ अधिक संरचित निरीक्षण और संभावित नुकसान के गहन विश्लेषण की माँग करती हैं।

उन्होंने कहा कि मौजूदा दृष्टिकोण एआई सिस्टम का मूल्यांकन अब वे अपने आप में पर्याप्त नहीं हैं, क्योंकि मॉडल अधिक स्वायत्त हो गए हैं और जटिल तर्क करने में सक्षम हो गए हैं। उनके अनुसार, एआई विकास के अगले चरण में इस बात की अधिक विस्तृत समझ की आवश्यकता है कि ऐसी प्रणालियों का दुरुपयोग कैसे किया जा सकता है, और वैध अनुप्रयोगों को सीमित किए बिना सुरक्षा उपायों को कैसे डिजाइन किया जा सकता है।

“हमारे पास बढ़ती क्षमताओं को मापने का एक मजबूत आधार है, लेकिन हम एक ऐसी दुनिया में प्रवेश कर रहे हैं जहां हमें अधिक सूक्ष्म समझ और माप की आवश्यकता है कि उन क्षमताओं का दुरुपयोग कैसे किया जा सकता है, और हम अपने उत्पादों और दुनिया दोनों में उन नकारात्मक पहलुओं को कैसे सीमित कर सकते हैं, जिससे हम सभी जबरदस्त लाभों का आनंद ले सकें। ये प्रश्न कठिन हैं और बहुत कम मिसाल है; बहुत सारे विचार जो अच्छे लगते हैं उनमें कुछ वास्तविक किनारे वाले मामले होते हैं,” नोट किया गया ऑल्टमैन ने अपने ट्वीट में कहा।

तैयारी के नए प्रमुख की जिम्मेदारियाँ क्या हैं?

में एक अलग ब्लॉग पोस्ट, ओपनएआई ने तैयारी के नए प्रमुख की भूमिका की जिम्मेदारियों को रेखांकित किया। यह पद कंपनी के तैयारी ढांचे का नेतृत्व करेगा, जो उन्नत एआई सिस्टम से जुड़े जोखिमों की पहचान, मूल्यांकन और कम करने पर केंद्रित है।

भूमिका में क्षमता मूल्यांकन का निर्माण और निगरानी करना, खतरे के मॉडल विकसित करना और यह सुनिश्चित करना शामिल है कि सुरक्षा उपाय तकनीकी रूप से मजबूत और स्केलेबल हैं। नियुक्त किया गया व्यक्ति अनुसंधान, इंजीनियरिंग, नीति और शासन टीमों के बीच काम का समन्वय भी करेगा ताकि यह सुनिश्चित किया जा सके कि उत्पाद विकास के दौरान सुरक्षा संबंधी विचार अंतर्निहित हों।

ओपनएआई ने कहा कि भूमिका में नई क्षमताओं को कैसे और कब जारी किया जाए, इस पर मार्गदर्शक निर्णय शामिल होंगे, साथ ही नए जोखिम उभरने पर आंतरिक ढांचे को परिष्कृत करना भी शामिल होगा।

OpenAI उच्च जोखिम वाले डोमेन पर ध्यान केंद्रित करता है

कंपनी के अनुसार, साइबर सुरक्षा और जैविक जोखिम जैसे क्षेत्रों पर विशेष ध्यान दिया जाएगा, जहां उन्नत एआई के दुरुपयोग से वास्तविक दुनिया में गंभीर परिणाम हो सकते हैं। तैयारी के प्रमुख से यह आकलन करने की अपेक्षा की जाएगी कि मॉडल इन डोमेन में कैसे व्यवहार करते हैं और नुकसान की संभावना को कम करने वाले सुरक्षा उपायों को डिजाइन करने में मदद करते हैं।

भूमिका में निकट सहयोग भी शामिल है बाहरी साझेदार और आंतरिक सुरक्षा टीमें यह सुनिश्चित करने के लिए कि प्रौद्योगिकी विकसित होने के साथ-साथ मूल्यांकन प्रासंगिक बना रहे।

OpenAI के तैयारी प्रमुख की भूमिका के लिए कौन आवेदन कर सकता है?

ऑल्टमैन ने भूमिका को मांगलिक बताते हुए कहा कि इसमें अनिश्चितता के तहत कठिन निर्णय लेना और तेजी से बदलते माहौल में काम करना शामिल होगा। इस पद के लिए मजबूत तकनीकी विशेषज्ञता, जोखिम मूल्यांकन में अनुभव और विभिन्न प्राथमिकताओं वाली कई टीमों के बीच समन्वय करने की क्षमता की आवश्यकता होती है।

ओपनएआई ने कहा कि एआई सुरक्षा, सुरक्षा, खतरा मॉडलिंग या संबंधित तकनीकी क्षेत्रों में पृष्ठभूमि वाले उम्मीदवार विशेष रूप से उपयुक्त होंगे, विशेष रूप से तेजी से उत्पाद विकास की वास्तविकताओं के साथ दीर्घकालिक सुरक्षा चिंताओं को संतुलित करने में सहज।