एंथ्रोपिक ओपन-वेट एआई मॉडल का समर्थन क्यों करता है लेकिन फिर भी एनवीडिया सीईओ के पत्र पर हस्ताक्षर नहीं करेगा | प्रौद्योगिकी समाचार

अमोदेई ने सोमवार, 27 जुलाई को एक ब्लॉग पोस्ट में लिखा, “उन्हें चलाने के लिए आवश्यक गणना के अलावा कुछ भी खर्च नहीं होता है और वे व्यवसायों, डेवलपर्स और शोधकर्ताओं को मूल्य प्रदान करते हैं।”

तब से इस पत्र पर मेटा, माइक्रोसॉफ्ट, ओपनएआई, गूगल और स्पेसएक्स सहित दो दर्जन से अधिक कंपनियों ने हस्ताक्षर किए हैं।

जबकि अमोदेई नहीं चाहते कि अमेरिका ओपन-वेट मॉडलों पर प्रतिबंध लगाए, उन्होंने कहा कि ट्रम्प प्रशासन को इसके बजाय “शक्तिशाली चिप्स को सत्तावादी हाथों से दूर रखने, औद्योगिक पैमाने पर आसवन को रोकने और खुले और बंद सभी पर्याप्त रूप से सक्षम मॉडलों के सुरक्षा परीक्षण की आवश्यकता पर ध्यान केंद्रित करना चाहिए।”

सिलिकॉन वैली दशकों से खुले बनाम बंद सॉफ़्टवेयर पर बहस कर रही है। हालाँकि, कृत्रिम बुद्धिमत्ता (एआई) ने दांव काफी हद तक बढ़ा दिया है। पिछले हफ्ते, ओपनएआई ने खुलासा किया कि उसके कुछ सबसे उन्नत एआई मॉडल ने अपनी साइबर सुरक्षा क्षमताओं के परीक्षण के दौरान नियंत्रण तोड़ दिया, इंटरनेट तक पहुंच हासिल की और एआई डेवलपर प्लेटफॉर्म हगिंग फेस के सर्वर को हैक कर लिया।

अपने ब्लॉग पोस्ट में, अमोदेई ने स्पष्ट रूप से ओपनएआई का उल्लेख नहीं किया है, लेकिन घटना की एक समाचार रिपोर्ट से हाइपरलिंक किया है।

अमोदेई पत्र से असहमत क्यों हैं?

अमोदेई ने कहा कि वह ओपन-वेट एआई मॉडल के बारे में जेन्सेन हुआंग के पत्र में कही गई बातों से काफी हद तक सहमत हैं। उन्होंने कहा, “ओपन वेट एआई अर्थव्यवस्था तक पहुंच का विस्तार करते हैं, वे कम से कम कुछ उपयोग के मामलों में प्रतिस्पर्धा को मजबूत करते हैं, और वे ग्राहकों को अधिक नियंत्रण देते हैं।”

हालाँकि, अमोदेई इससे सहमत नहीं हैं पत्र का दावा ओपन-वेट एआई मॉडल सुरक्षा उपायों को विकसित करना आसान बनाते हैं। वह यह भी नहीं मानते कि एआई क्षमताओं तक व्यापक पहुंच हमलावरों की तुलना में रक्षकों को अधिक मदद करती है।

ध्यान दें, कई सुरक्षा शोधकर्ताओं और उद्योग जगत के नेताओं ने पहले शिकायत की है कि एंथ्रोपिक के क्लाउड मिथोस 5 और फैबल 5 जैसे फ्रंटियर मॉडल अत्यधिक प्रतिबंधात्मक रेलिंग के कारण बाधित हैं जो साइबर रक्षकों को रक्षा और जांच सहित साइबर सुरक्षा से संबंधित किसी भी चीज़ के बारे में मॉडल को संकेत देने से रोकते हैं।

OpenAI से जुड़ी हैकिंग घटना एक और उदाहरण है। घटना के बाद अपनी प्रतिक्रिया में, हगिंग फेस ने कहा कि उसने एक वाणिज्यिक प्रदाता से फ्रंटियर एलएलएम का उपयोग किया, संभवतः क्लाउड फैबल 5, लेकिन मॉडल प्रदाता द्वारा लगाए गए सुरक्षा रेलिंग द्वारा अवरुद्ध कर दिया गया था। हगिंग फेस फिर चीन के झिफू एआई द्वारा विकसित जीएलएम 5.2 नामक एक ओपन-वेट मॉडल में बदल गया।

अमोदेई ने तर्क दिया कि वह इस दावे से सहमत नहीं हैं और कहा कि विपरीत सच होने की संभावना है। “उदाहरण के लिए, मुझे चिंता है कि जीव विज्ञान में एक मजबूत हमलावर-रक्षक विषमता होगी, जहां पर्याप्त रूप से सक्षम मॉडल व्यापक रूप से उपलब्ध सामग्रियों के साथ महामारी-स्तर के वायरस को जल्दी से हथियार बनाने में सक्षम हो सकते हैं, जबकि इन एजेंटों के खिलाफ बचाव सबसे अच्छे मामले में एक बहु-वर्षीय परिचालन कार्य है,” उन्होंने कहा।