‘उच्च-जोखिम’ क्लाउड मिथोस तक अनधिकृत पहुंच के दावों की जांच कर रहे एंथ्रोपिक: रिपोर्ट | प्रौद्योगिकी समाचार

अज्ञात उपयोगकर्ताओं में से एक, जो एंथ्रोपिक के लिए तीसरे पक्ष के ठेकेदार का कार्यकर्ता था, ने कथित तौर पर उन्नत एआई मॉडल तक पहुंच प्राप्त की। ब्लूमबर्ग रिपोर्ट में कहा गया है कि उपयोगकर्ताओं ने मॉडल पर कोई साइबर सुरक्षा संकेत नहीं चलाया, बल्कि प्रौद्योगिकी के साथ खेलने में अधिक रुचि रखते थे। इसे स्क्रीनशॉट और मॉडल के लाइव डेमो के आधार पर प्रकाशन द्वारा सत्यापित किया गया था। इसके बावजूद, क्लाउड मिथोस के संभावित उल्लंघन की संभावना ने व्यापक सुरक्षा चिंताएँ बढ़ा दी हैं।

मिथोस क्या है?

माइथोस एक बड़ा भाषा मॉडल (एलएलएम) है जिसके बारे में कहा जाता है कि यह कई प्रकार के कार्यों में सक्षम है, जिसमें सॉफ्टवेयर सिस्टम में शून्य-दिन की कमजोरियों की पहचान करने की क्षमता भी शामिल है। कथित तौर पर यह मॉडल कोड-संबंधित कार्यों पर अपने प्रदर्शन को आगे बढ़ाने वाले एलएलएम के हालिया चलन पर आधारित है। इसका सिस्टम मिथोस को सॉफ्टवेयर कमजोरियों को तुरंत ढूंढने और पैच करने की अनुमति देता है। यह काफी गणना शक्ति द्वारा समर्थित है और कथित तौर पर सॉफ्टवेयर-प्रासंगिक डेटा के भंडार पर प्रशिक्षित है।

इसकी घोषणा पर, एंथ्रोपिक ने साझा किया था कि मिथोस तक पहुंच तकनीक और सुरक्षा पारिस्थितिकी तंत्र में सहयोगियों के एक बंद समूह तक सीमित होगी। कंपनी के अनुसार, माइथोस के पीछे का उद्देश्य ऐसे समय में रक्षात्मक साइबर सुरक्षा क्षमताओं को मजबूत करना है जब दुनिया परिष्कृत एआई-संचालित साइबर खतरों को देख रही है। क्लाउड मिथोस न केवल कमजोरियों की पहचान करता है बल्कि यह समझने में भी सहायता कर सकता है कि उनका शोषण कैसे किया जाएगा। संक्षेप में, मिथोस रक्षात्मक लाभों के साथ-साथ गंभीर संभावित जोखिमों के साथ आता है। यह मॉडल एंथ्रोपिक के प्रोजेक्ट ग्लासविंग का हिस्सा है, जिसके लिए कंपनी ने उपयोग क्रेडिट में $100 मिलियन और ओपन-सोर्स सुरक्षा प्रयासों के लिए $4 बिलियन तक का वादा किया है।

एक रिपोर्ट के मुताबिक अभिभावकमॉडल ने प्रौद्योगिकी के लिए दुनिया के अग्रणी सुरक्षा प्राधिकरणों में से एक – यूके के एआई सुरक्षा संस्थान की जांच की है, जिसने पिछले सप्ताह आगाह किया था कि जब साइबर खतरों की बात आती है तो माइथोस पहले के मॉडल से एक कदम ऊपर था। संस्थान ने दावा किया कि एआई मॉडल उन हमलों को अंजाम दे सकता है जिनके लिए कई कार्रवाइयों की आवश्यकता होगी और यहां तक ​​कि बिना किसी मानवीय हस्तक्षेप के आईटी सिस्टम में कमजोरियों का भी पता लगाया जा सकता है। कथित तौर पर मिथोस संस्थान द्वारा बनाए गए साइबर हमले के 32-चरणीय सिमुलेशन को पूरा करने वाला पहला एआई मॉडल था। इन चरणों में, मॉडल को 10 में से तीन परीक्षणों में चुनौती को हल करने की आवश्यकता थी।