क्लाउड मिथोस से मिलें: एंथ्रोपिक ने गलती से अप्रकाशित एआई मॉडल को गंभीर साइबर सुरक्षा जोखिमों के साथ लीक कर दिया

एंथ्रोपिक का नवीनतम एआई मॉडल लॉन्च से पहले ही लीक हो गया है और सोशल मीडिया पर धूम मचा रहा है। नया मॉडल, जिसका कोडनेम “क्लाउड माइथोस” था, गलती से तब सामने आया जब मॉडल का विवरण सार्वजनिक रूप से सुलभ डेटा कैश में संग्रहीत किया गया था जिसे पहली बार फॉर्च्यून द्वारा रिपोर्ट किया गया था।

एंथ्रोपिक अपने ‘सबसे सक्षम’ मॉडल की पुष्टि करता है:

की खबर के बाद ऐ मॉडल लीक सामने आने के बाद, एक एंथ्रोपिक प्रवक्ता ने इसके अस्तित्व की पुष्टि की और कहा कि मॉडल एआई प्रदर्शन में “एक कदम बदलाव” का प्रतिनिधित्व करता है और “आज तक हमारे द्वारा बनाया गया सबसे सक्षम मॉडल है।”

नए मॉडल के बारे में विवरण कथित तौर पर एक ड्राफ्ट ब्लॉग में संग्रहीत किया गया था जो एक असुरक्षित और सार्वजनिक रूप से खोजे जाने योग्य डेटा स्टोर में उपलब्ध था। एंथ्रोपिक का मानना ​​है कि इसका आगामी मॉडल अभूतपूर्व साइबर सुरक्षा जोखिम पैदा करता है।

anthropic कथित तौर पर ब्लॉग पोस्ट से जुड़ी लगभग 3,000 संपत्तियों को छोड़ दिया गया था जो पहले कंपनी की समाचार या शोध साइटों पर प्रकाशित नहीं हुई थीं।

एआई स्टार्टअप ने कथित तौर पर एक असुरक्षित, सार्वजनिक डेटा लेक में मिथोस की घोषणा करते हुए ड्राफ्ट ब्लॉग पोस्ट छोड़ दिया था, जिसे वरिष्ठ एआई सुरक्षा शोधकर्ता रॉय पाज़ ने पाया था। उल्लंघन की सूचना मिलने के बाद, एंथ्रोपिक ने तुरंत डेटा स्टोर से दस्तावेज़ों को खोजने और पुनर्प्राप्त करने की जनता की क्षमता को हटा दिया।

एंथ्रोपिक ने इस लीक के लिए अपने कंटेंट मैनेजमेंट सिस्टम (सीएमएस) के कॉन्फ़िगरेशन में “मानवीय त्रुटि” को जिम्मेदार ठहराया, जिसके कारण ड्राफ्ट ब्लॉग पोस्ट सार्वजनिक रूप से सुलभ हो गया। कंपनी ने डेटा स्टोर में अप्रकाशित सामग्री को “प्रकाशन के लिए विचार की गई सामग्री का प्रारंभिक ड्राफ्ट” भी कहा।

क्लाउड मिथोस और नया ‘कैपिबारा’ स्तर

लीक से सबसे महत्वपूर्ण रहस्योद्घाटन एंथ्रोपिक के अगली पीढ़ी के मॉडल का विवरण देने वाला एक मसौदा ब्लॉग पोस्ट है। ड्राफ्ट ब्लॉग पोस्ट ने “कैपीबारा” नामक एआई मॉडल का एक नया स्तर पेश किया।

विशेष रूप से, एंथ्रोपिक ने अपने मॉडलों को अब तक तीन स्तरों में विभाजित किया है: हाइकु (सबसे तेज़), गाथा (मध्य स्तरीय), और ओपुस (सबसे बड़ा/सबसे सक्षम)। हालाँकि, ऐसा लगता है कि कंपनी कैपिबारा को अगले टॉप-टियर मॉडल के रूप में पेश करना चाहती है, जो ओपस से बड़ा, अधिक सक्षम और अधिक महंगा हो सकता है।

लीक हुए दस्तावेज़ के अनुसार, एंथ्रोपिक के पिछले सर्वश्रेष्ठ मॉडल, क्लाउड ओपस 4.6 की तुलना में कैपिबारा सॉफ्टवेयर कोडिंग, अकादमिक तर्क और साइबर सुरक्षा से संबंधित कार्यों में नाटकीय रूप से उच्च अंक प्राप्त करता है।

ड्राफ्ट ब्लॉग में यह भी कहा गया कि एंथ्रोपिक ने प्रशिक्षण पूरा कर लिया है क्लाउड मिथोस, जिसे “अब तक हमारे द्वारा विकसित सबसे शक्तिशाली एआई मॉडल” के रूप में वर्णित किया गया है।

नए मॉडल पर फॉर्च्यून से बात करते हुए एक एंथ्रोपिक प्रवक्ता ने कहा, “हम तर्क, कोडिंग और साइबर सुरक्षा में सार्थक प्रगति के साथ एक सामान्य-उद्देश्यीय मॉडल विकसित कर रहे हैं।”

प्रवक्ता ने कहा, “इसकी क्षमताओं की ताकत को देखते हुए, हम इस बारे में विचार-विमर्श कर रहे हैं कि हम इसे कैसे जारी करें। जैसा कि पूरे उद्योग में मानक अभ्यास है, हम मॉडल का परीक्षण करने के लिए शुरुआती पहुंच वाले ग्राहकों के एक छोटे समूह के साथ काम कर रहे हैं। हम इस मॉडल को एक कदम बदलाव और अब तक का सबसे सक्षम मॉडल मानते हैं।”

नए मॉडल जारी करने को लेकर मानवविज्ञानी सतर्क:

ड्राफ्ट ब्लॉग पोस्ट में कथित तौर पर क्लाउड कैपिबारा से जुड़े साइबर सुरक्षा जोखिमों के बारे में भी बात की गई है।

दस्तावेज़ में लिखा है, “हम साइबर सुरक्षा के क्षेत्र में मॉडल के संभावित निकट अवधि के जोखिमों को समझना चाहते हैं – और साइबर रक्षकों को तैयार करने में मदद करने के लिए परिणाम साझा करना चाहते हैं।”

एंथ्रोपिक ने कथित तौर पर यह भी चेतावनी दी है कि मॉडल “साइबर क्षमताओं में किसी भी अन्य एआई मॉडल से कहीं आगे है” और यह “ऐसे मॉडलों की लहर पैदा कर सकता है जो कमजोरियों का फायदा उठा सकते हैं जो रक्षकों के प्रयासों से कहीं आगे निकल सकते हैं”।