ओपनएआई के पूर्व कर्मचारियों द्वारा स्थापित कंपनी एंथ्रोपिक के खतरों को लेकर चिंतित हैं कृत्रिम होशियारी.
एक बार सुरक्षा को ध्यान में रखते हुए एआई तकनीक के उचित विकास पर ध्यान केंद्रित करने के बाद, एंथ्रोपिक अब अपने मूलभूत सुरक्षा सिद्धांत को कमजोर कर रहा है, कंपनी ने अपनी संशोधित सुरक्षा नीति पर एक बयान जारी किया है।
एंथ्रोपिक ने मंगलवार को बदलाव को चिह्नित करते हुए कहा, “हम अपनी जिम्मेदार स्केलिंग नीति (आरएसपी) का तीसरा संस्करण जारी कर रहे हैं, स्वैच्छिक ढांचा जिसका उपयोग हम एआई सिस्टम से विनाशकारी जोखिमों को कम करने के लिए करते हैं।”
एन्थ्रोपिक की नई सुरक्षा नीति: क्या परिवर्तन?
बिजनेस इनसाइडर को दिए एक बयान में, कंपनी ने यह भी कहा कि बढ़ती प्रतिस्पर्धा और सरकारी विनियमन की कमी के बीच, वह अब “स्केलिंग को रोकने और/या नए मॉडलों की तैनाती में देरी करने” की अपनी प्रतिबद्धता का पालन नहीं करेगी, जब ऐसी प्रगति उसके अपने सुरक्षा उपायों से आगे निकल जाएगी।
एंथ्रोपिक की पिछली सुरक्षा नीति के अनुसार यदि अधिक शक्तिशाली मॉडलों की क्षमताएं उन्हें नियंत्रित करने और उनकी सुरक्षा सुनिश्चित करने की कंपनी की क्षमता से अधिक हो जाती हैं, तो उन्हें प्रशिक्षण रोक देना पड़ता था – एक ऐसा उपाय जिसे नई नीति में हटा दिया गया है।
बदलाव की व्याख्या करते हुए, एंथ्रोपिक ने कहा कि प्रौद्योगिकी के संबंध में वर्तमान नीति वातावरण “एआई प्रतिस्पर्धात्मकता और आर्थिक विकास को प्राथमिकता देने की ओर स्थानांतरित हो गया है, जबकि सुरक्षा-उन्मुख चर्चाओं को अभी भी संघीय स्तर पर सार्थक गति प्राप्त करना बाकी है।”
इसके अलावा, कंपनी के मुख्य विज्ञान अधिकारी, जेरेड कपलान ने टाइम मैगज़ीन को बताया कि इसकी जिम्मेदार स्केलिंग नीति एआई दौड़ के साथ तालमेल बनाए रखने में विफल रही है।
“हमने महसूस किया कि एआई मॉडल का प्रशिक्षण बंद करने से वास्तव में किसी को मदद नहीं मिलेगी। एआई की तेजी से प्रगति के साथ, हमें वास्तव में यह महसूस नहीं हुआ कि हमारे लिए एकतरफा प्रतिबद्धताएं बनाने का कोई मतलब नहीं है … अगर प्रतिस्पर्धी आगे बढ़ रहे हैं, “कपलान को प्रकाशन के हवाले से कहा गया था।
एन्थ्रोपिक ने यह भी कहा कि वह “आश्वस्त” था कि “एआई सुरक्षा पर प्रभावी सरकारी भागीदारी आवश्यक और प्राप्त करने योग्य दोनों है”, लेकिन उन्होंने कहा कि यह “एक दीर्घकालिक परियोजना साबित हो रही है — ऐसा कुछ नहीं है जो व्यवस्थित रूप से हो रहा है क्योंकि एआई अधिक सक्षम हो जाता है या कुछ सीमाओं को पार कर जाता है।”
उस अंत तक, एंथ्रोपिक एआई उद्योग के लिए सुरक्षा सिफारिशें प्रदान करना जारी रखेगा, लेकिन कंपनी उद्योग के लिए अपने सुझावों से अपनी योजनाओं को अलग करेगी।
पेंटागन के साथ झगड़ा
यह बदलाव ऐसे समय में आया है जब एंथ्रोपिक पेंटागन के साथ विवाद में उलझा हुआ है और इसके एक दिन बाद रक्षा सचिव पीट हेगसेथ ने कंपनी के सी.ई.ओ. दारियो अमोदेई एक शुक्रवार अंतिम तारीख एआई सुरक्षा उपायों को वापस लेना।
रिपोर्ट के अनुसार, हेगसेथ ने चेतावनी दी कि ऐसा करने में विफल रहने पर एंथ्रोपिक को 200 मिलियन डॉलर का रक्षा अनुबंध खोने और सरकारी काली सूची में डाले जाने का खतरा होगा। सीएनएन.
उस ने कहा, घटनाक्रम से परिचित एक सूत्र ने समाचार आउटलेट को बताया कि एंथ्रोपिक की सुरक्षा नीति में बदलाव पेंटागन मामले से संबंधित नहीं था।