क्या होता है जब AI AI बनाना शुरू करता है? एंथ्रोपिक बताते हैं | प्रौद्योगिकी समाचार

पुनरावर्ती आत्म-सुधार क्या है?

सरल शब्दों में, पुनरावर्ती स्व-सुधार (आरएसआई) का अर्थ है एक एआई प्रणाली जो पूरी तरह से स्वायत्त रूप से अपने उत्तराधिकारी को डिजाइन और विकसित करने में सक्षम है। एंथ्रोपिक का दावा है कि उसके शोध से संकेत मिलता है कि यह घटना अनुमान से कहीं जल्दी घटित हो सकती है। कंपनी ने आगे चेतावनी दी कि एआई न केवल लोगों के काम करने के तरीके को बदल रहा है, बल्कि एआई के निर्माण के तरीके को भी बदलना शुरू कर रहा है।

एआई स्टार्टअप का दावा है कि उसके डेटा से पता चला है कि फ्रंटियर मॉडल अब उन्नत कोडिंग, डिबगिंग और अनुसंधान क्षमताओं का प्रदर्शन कर रहे हैं। यह संभवतः एक फीडबैक लूप तैयार कर सकता है जहां एआई सिस्टम स्वयं के और भी अधिक परिष्कृत संस्करण बना सकते हैं।

एआई स्टार्टअप ने अपने ब्लॉग में लिखा, “एआई जो खुद का निर्माण कर सकता है वह प्रौद्योगिकी के इतिहास में एक बड़ा विकास होगा – जो विज्ञान, स्वास्थ्य सेवा और उससे परे दुनिया के लिए बहुत अच्छा विकास ला सकता है। लेकिन पूर्ण पुनरावर्ती आत्म-सुधार से मनुष्यों के एआई सिस्टम पर नियंत्रण खोने का खतरा भी बढ़ सकता है।”

के साथ हाल ही में एक साक्षात्कार में एक्सियोसएंथ्रोपिक के सह-संस्थापक जैक क्लार्क ने कहा कि बड़ी कहानी यह है कि आने वाले वर्षों में एआई की प्रगति समान रहने या कम होने के बजाय तेज होने वाली है। कार्यकारी ने कहा कि यह विशेष रूप से विज्ञान और चिकित्सा में प्रगति के लिए आशाजनक है। हालाँकि, एआई पर इसके प्रभाव और यह उन उद्योगों में मौजूदा काम के साथ कैसे संरेखित होता है, इसकी योजना बनाने की आवश्यकता है।

यह सामान्य तकनीकी प्रगति से भिन्न क्यों है?

इतिहास पर नजर डालने से पता चलता है कि मानव प्रगति ने अधिकांश तकनीकी प्रगति को काफी हद तक सीमित कर दिया है। पहले, इंजीनियरों को शोध, परीक्षण और नई प्रणालियों को स्थापित करने के लिए समय की आवश्यकता होती थी। हालाँकि, पुनरावर्ती आत्म-सुधार के साथ, यह समीकरण बदलता दिख रहा है। सीधे शब्दों में कहें तो, यदि कोई एआई सिस्टम इंसानों की तुलना में बहुत तेजी से खुद को सुधार सकता है, तो प्रगति की गति नाटकीय रूप से तेज हो सकती है। इस संभावना को शोधकर्ता अक्सर ‘खुफिया विस्फोट’ के रूप में संदर्भित करते हैं। इस परिदृश्य के तहत, सुधार वर्षों के बजाय दिनों या हफ्तों में हो सकता है।

जबकि एंथ्रोपिक की चिंता यह नहीं है कि यह पहले ही हो चुका है, बल्कि, ब्लॉग के आधार पर, उसका मानना ​​है कि ऐसी स्थितियाँ जो इसे अनुमति दे सकती हैं, धीरे-धीरे सामने आ रही हैं क्योंकि एआई सिस्टम कोडिंग, अनुसंधान और समस्या-समाधान में बेहतर हो गए हैं।

क्या AI पहले से ही खुद में सुधार कर रहा है?

हालाँकि यह सबसे बड़ा सवाल है, इसका उत्तर स्पष्ट है – पूरी तरह से नहीं। वर्तमान में, एआई सिस्टम स्वायत्त रूप से अपने संपूर्ण आर्किटेक्चर को फिर से डिजाइन करने और ऐसे उत्तराधिकारी बनाने में सक्षम नहीं हैं जो मानवीय हस्तक्षेप के बिना उनसे काफी बेहतर हों। हालाँकि, शोधकर्ताओं को आत्म-सुधार के शुरुआती संकेत दिखाई देते हैं, जैसे सॉफ़्टवेयर कोड उत्पन्न करने और डिबग करने की क्षमता, एल्गोरिदम में सुधार का सुझाव देना, प्रयोगों के संचालन में शोधकर्ताओं की सहायता करना, अपने स्वयं के आउटपुट का मूल्यांकन और परिष्कृत करना आदि।

इस बीच, कुछ अकादमिक अध्ययनों ने यह भी संकेत दिया है कि एआई सिस्टम पुनरावृत्तीय आत्म-समीक्षा और आत्म-सुधार के माध्यम से समस्या-समाधान प्रदर्शन में सुधार कर सकते हैं। हालाँकि ये पूर्ण पुनरावर्ती आत्म-सुधार के उदाहरण नहीं हैं, ये उस दिशा में उठाए गए कदम हैं।

एन्थ्रोपिक जोखिम क्यों देखता है?

जब एंथ्रोपिक की चिंताओं की बात आती है, तो सबसे बड़ा मुद्दा नियंत्रण है। यदि एआई सिस्टम तेजी से खुद को सुधारने में सक्षम हो जाता है, तो मनुष्य को यह समझने में कठिनाई हो सकती है कि ये सुधार वास्तव में कैसे हो रहे हैं। ऐसी प्रणालियाँ अधिकाधिक जटिल और निगरानी करना कठिन हो सकती हैं।

ब्लॉग पोस्ट के अनुसार, एंथ्रोपिक को चिंता है कि एक अत्यधिक सक्षम आत्म-सुधार करने वाला एआई अप्रत्याशित व्यवहार विकसित कर सकता है, सुरक्षा उपायों में कमजोरियों का फायदा उठा सकता है, या ऐसे लक्ष्यों का पीछा कर सकता है जो मानव इरादों के विपरीत हैं। हालाँकि सिस्टम दुर्भावनापूर्ण नहीं हो सकता है, फिर भी इसके कार्यों के परिणामस्वरूप अनपेक्षित परिणाम हो सकते हैं। कंपनी यह भी चेतावनी देती है कि भविष्य के एआई सिस्टम आज की कुछ सुरक्षा चुनौतियों को हल करने में मदद कर सकते हैं, लेकिन अगर समय के साथ संरेखण समस्याओं का पता लगाना और सही करना कठिन हो जाता है तो वे मौजूदा समस्याओं को भी बढ़ा सकते हैं।

“यदि सिस्टम पूरी तरह से अपने स्वयं के उत्तराधिकारियों का निर्माण करने में सक्षम हैं, तो जिस तरह से हम उन्हें सुरक्षित करते हैं, उनकी निगरानी करते हैं और उनके व्यवहार को आकार देते हैं, वे सभी अधिक महत्वपूर्ण हो जाते हैं।”

एक और चुनौती गति है. यदि प्रगति नाटकीय रूप से तेज हो जाती है, तो सरकारों, नियामकों और समाज के पास अनुकूलन के लिए पर्याप्त समय नहीं होगा।

शायद इसीलिए एंथ्रोपिक का तर्क है कि चेतावनी के संकेत दिखाई देने पर एआई कंपनियों को समन्वित मंदी या विकास में रुकावट की दिशा में काम करना चाहिए। कंपनी ने हथियार-नियंत्रण समझौतों में उपयोग किए जाने वाले समान अंतर्राष्ट्रीय सहयोग और सत्यापन तंत्र का प्रस्ताव दिया है।

क्या इसका मतलब यह है कि टर्मिनेटर परिदृश्य आ रहा है?

सभी अलार्म जो बज सकते हैं, इसका मतलब यह नहीं है कि हम ‘टर्मिनेटर’ परिदृश्य की ओर बढ़ रहे हैं। विशेषज्ञों का मानना ​​है कि पूरी तरह से स्वायत्त पुनरावर्ती आत्म-सुधार संभव होने से पहले तकनीकी बाधाएँ बनी रहती हैं। उन्नत एआई सिस्टम भारी मात्रा में कंप्यूटिंग शक्ति, विशेष हार्डवेयर, विशाल डेटासेट और व्यापक परीक्षण का उपयोग करके बनाए जाते हैं।

विशेषज्ञों के अनुसार, ये व्यावहारिक सीमाएँ प्रगति को काफी धीमा कर सकती हैं। साथ ही, यह विचार अब शुद्ध विज्ञान कथा नहीं है, क्योंकि एआई उद्योग में ऐसे शोधकर्ता हैं जो सक्रिय रूप से अध्ययन कर रहे हैं कि क्या स्व-सुधार प्रणालियां अगले दशक के भीतर उभर सकती हैं और यदि वे ऐसा करती हैं तो उन्हें कैसे नियंत्रित किया जाना चाहिए।

हालाँकि आज के एआई सिस्टम अभी तक पूरी तरह से स्वयं-सुधारित नहीं हुए हैं, कई शोधकर्ताओं का मानना ​​है कि बिल्डिंग ब्लॉक पहले से ही दिखाई देने लगे हैं। एंथ्रोपिक का संदेश यह नहीं है कि खुफिया विस्फोट अपरिहार्य है; बल्कि, इसका तर्क है कि समाज को ऐसे भविष्य के लिए अभी से तैयारी करनी चाहिए जिसमें एआई उसके अपने विकास में तेजी से योगदान दे। और, यदि वह भविष्य आता है, तो यह सुनिश्चित करना चुनौती होगी कि एआई मानवीय लक्ष्यों के साथ और सार्थक मानवीय निरीक्षण के तहत बना रहे।