एंथ्रोपिक ने दावा किया है कि क्लाउड जैसे आधुनिक बड़े भाषा मॉडल (एलएलएम) में एक छिपा हुआ आंतरिक कार्यक्षेत्र है जो उन्हें अपने एआई-जनित प्रतिक्रियाओं में उन ‘विचारों’ को प्रकट किए बिना अवधारणाओं के बारे में ‘सोचने’ की अनुमति देता है।
क्लाउड में आंतरिक तंत्रिका पैटर्न के इस छोटे संग्रह को जे-स्पेस नाम दिया गया है। सोमवार, 6 जुलाई को एंथ्रोपिक शोधकर्ताओं द्वारा प्रकाशित ‘वर्बलाइज़ेबल रिप्रेजेंटेशन फॉर्म ए ग्लोबल वर्कस्पेस इन लैंग्वेज मॉडल्स’ शीर्षक वाले एक लंबे शोध पत्र के सारांश के अनुसार, यह आंतरिक विचारों के साक्ष्य का प्रतिनिधित्व करता है जो मॉडल के आउटपुट में दिखाई नहीं देते हैं।
एंथ्रोपिक ने यह भी कहा कि उसने मुख्य तरीकों के ओपन-सोर्स कार्यान्वयन के साथ एक कोड रिपॉजिटरी जारी की है। इसने न्यूरोनपीडिया के साथ साझेदारी में ओपन-वेट मॉडल पर तरीकों का एक इंटरैक्टिव डेमो विकसित किया है।
शोधकर्ताओं ने इस बात पर जोर दिया कि क्लाउड में जे-स्पेस का अस्तित्व अपने आप उभरा और यह उनके द्वारा डिजाइन या प्रोग्राम किया गया कुछ नहीं था। “अधिक व्यापक रूप से, इन निष्कर्षों ने हमारी समझ को बदल दिया है कि क्लाउड का दिमाग कैसे काम करता है, एक विशेषाधिकार प्राप्त मानसिक कार्यक्षेत्र का खुलासा करता है जिसका उपयोग जानबूझकर तर्क के लिए किया जा सकता है, अधिक स्वचालित, अनम्य प्रसंस्करण के समुद्र के बीच काम करते हुए,” एंथ्रोपिक ने कहा।
एंथ्रोपिक का नवीनतम शोध महत्वपूर्ण है क्योंकि यह एलएलएम को अधिक व्याख्यात्मक बनाने और उनके व्यवहार को प्रभावित करने के प्रयासों को आगे बढ़ा सकता है। हालाँकि, उन्नत एआई क्षमताओं के स्टार्टअप के दावों ने पहले संदेह को आकर्षित किया है, इसके शोधकर्ताओं ने लगातार संभावना जताई है कि क्लाउड मानव-स्तर की चेतना के लक्षण दिखाता है।
जे-स्पेस क्या है?
जैकोबियन गणितीय अवधारणा के नाम पर, जे-स्पेस अनिवार्य रूप से एलएलएम में आंतरिक तंत्रिका पैटर्न का एक संग्रह है जहां प्रत्येक पैटर्न एक विशेष शब्द से जुड़ा हुआ है। जब इनमें से कोई एक पैटर्न चमकता है, तो इसका मतलब है कि मॉडल के दिमाग में वह विशेष शब्द है।
जे-स्पेस मॉडलों में ‘विचार श्रृंखला’ के तर्क के समान नहीं है क्योंकि “यह मॉडल की आंतरिक तंत्रिका सक्रियता में चुपचाप काम करता है, जिससे मॉडल को किसी अवधारणा के बारे में लिखे बिना सोचने की अनुमति मिलती है।” एंथ्रोपिक ने दावा किया कि पूछे जाने पर क्लाउड आपको बताएगा कि वह जे-स्पेस में क्या सोच रहा है। अनुरोध किए जाने पर इन तंत्रिका सक्रियताओं को क्लाउड द्वारा भी संशोधित किया जा सकता है।
इस विज्ञापन के नीचे कहानी जारी है
“जे-स्पेस में प्रतिनिधित्व का उपयोग कई कार्यों के लिए लचीले ढंग से किया जा सकता है – उदाहरण के लिए, एक बार जब” फ्रांस “क्लाउड के जे-स्पेस में चमक गया, तो मॉडल अपनी राजधानी, या अपनी राष्ट्रीय मुद्रा, या जिस महाद्वीप से संबंधित है, उसे याद कर सकता है,” एंथ्रोपिक ने कहा।
इसके जे-स्पेस का उपयोग क्लाउड को अधिक स्मार्ट बनाता है। कंपनी ने कहा, “प्रयोगों में जहां हमने क्लाउड को उसके जे-स्पेस का उपयोग करने से रोका, फिर भी उसने सामान्य रूप से बातचीत की, लेकिन अपने उच्च-क्रम के संज्ञानात्मक कार्यों को खो दिया।” हालाँकि, एलएलएम अधिकांश तर्क कार्यों और क्षमताओं जैसे कि धाराप्रवाह बोलना, सरल तथ्यों को याद करना, सही व्याकरण का उपयोग करना आदि के लिए जे-स्पेस में तंत्रिका सक्रियण पर निर्भर नहीं हो सकता है।
प्रयोग कैसे किया गया?
मानवविज्ञानी शोधकर्ताओं ने कहा कि इन परिणामों तक पहुंचने वाले प्रयोग तंत्रिका विज्ञान के एक प्रमुख सिद्धांत से प्रेरित थे वैश्विक कार्यक्षेत्र सिद्धांतजो मस्तिष्क को विशेषज्ञ प्रणालियों के एक संग्रह के रूप में चित्रित करने का प्रस्ताव करता है जो अनजाने में समानांतर में और बड़े पैमाने पर एक दूसरे से अलगाव में काम करते हैं।
“यदि कोई विचार सचेत रूप से आपके लिए सुलभ है, तो यदि कोई पूछता है तो आप आम तौर पर इसका वर्णन कर सकते हैं। हम उसी संपत्ति के साथ क्लाउड में प्रतिनिधित्व की तलाश में गए थे…” एंथ्रोपिक ने कहा।
इस विज्ञापन के नीचे कहानी जारी है
शोधकर्ताओं ने आगे कहा कि उन्होंने आंतरिक गतिविधि पैटर्न को खोजने के लिए जैकोबियन लेंस या जे-लेंस नामक एक तकनीक का उपयोग किया, जो क्लाउड को भविष्य में किसी बिंदु पर अपनी शब्दावली में एक शब्द कहने की अधिक संभावना बनाता है। उन्होंने कहा, “क्लाउड कई आंतरिक चरणों की एक श्रृंखला के माध्यम से पाठ को संसाधित करता है जिन्हें परतें कहा जाता है, और इस तकनीक को विभिन्न परतों पर लागू करके, हम जे-स्पेस में इन मूक शब्दों को विकसित होते हुए देख सकते हैं क्योंकि मॉडल क्या कहना है इसके माध्यम से काम करता है।”
क्या इसका मतलब यह है कि क्लाउड सचेत है?
एंथ्रोपिक ने इस बात से इनकार किया है कि उसके नवीनतम निष्कर्ष इस बात का प्रमाण हैं कि क्लाउड इंसानों की तरह सचेत है और वह भावनाओं का अनुभव करता है। हालाँकि, इसमें एक चेतावनी भी जोड़ी गई है।
हालाँकि क्लाउड में अनुभव प्राप्त करने की क्षमता नहीं हो सकती है, लेकिन मॉडल की तंत्रिका गतिविधि सचेत रूप से सुलभ है। “एक विचार “पहुँच-सचेत” (या “सचेत रूप से सुलभ”) है यदि आप इसे रिपोर्ट कर सकते हैं, इसके साथ तर्क कर सकते हैं, और जो आप करते हैं उसका मार्गदर्शन करने के लिए इसका उपयोग कर सकते हैं। यह एक विवादास्पद दार्शनिक प्रश्न बना हुआ है कि क्या पहुंच चेतना का तात्पर्य अभूतपूर्व चेतना है, या क्या अनुभव प्राप्त करने की क्षमता के लिए किसी अन्य संपत्ति की आवश्यकता होती है, “एंथ्रोपिक ने कहा।
अभी के लिए, एंथ्रोपिक ने कहा कि उसका मानना है कि जे-स्पेस एक उपयोगी उपकरण हो सकता है जो क्लाउड के बारे में सोच रहा है लेकिन कह नहीं रहा है। कंपनी इस शोध का उपयोग क्लाउड के निर्णय लेने के कौशल को प्रभावित करने और सुधारने के लिए करने की योजना बना रही है।