एंथ्रोपिक ने रेलिंग के साथ क्लाउड फैबल 5 जारी किया, जो पहली बार उपयोगकर्ताओं के लिए मिथोस-स्तरीय एआई ला रहा है | प्रौद्योगिकी समाचार

कथित तौर पर क्लाउड फैबल 5 और क्लाउड मिथोस 5 दोनों एक ही अंतर्निहित मॉडल का उपयोग करते हैं। दो एआई मॉडल के बीच मुख्य अंतर यह है कि क्लाउड फैबल 5, जिसे सार्वजनिक रूप से जारी किया जा रहा है, में रेलिंग लगाई गई है जो मॉडल को साइबर सुरक्षा, जीव विज्ञान और रसायन विज्ञान से संबंधित कई उपयोगकर्ता प्रश्नों का उत्तर देने से रोक देगी।

एंथ्रोपिक ने शुरू में क्लाउड माइथोस की रिलीज को सीमित करने के लिए कदम उठाया था, इस चिंता के कारण कि मॉडल की क्षमताओं का फायदा बुरे अभिनेताओं द्वारा हैकिंग टूल विकसित करने के लिए किया जा सकता है जो रक्षकों को चकमा दे सकते हैं। बैंकों, पावर ग्रिडों और अन्य महत्वपूर्ण बुनियादी ढांचे द्वारा उपयोग किए जाने वाले सॉफ़्टवेयर में छिपी खामियों को खोजने और उनका फायदा उठाने की माइथोस की क्षमता के बारे में कंपनी के दावों ने वैश्विक स्तर पर खतरे की घंटी बजा दी है, दुनिया भर की सरकारें और संगठन इस बात की तैयारी कर रहे हैं कि हमलावर अंततः साइबर हमलों को अंजाम देने के लिए एआई का उपयोग कैसे कर सकते हैं।

अब, मिथोस-क्लास एआई मॉडल की सार्वजनिक रिलीज के साथ, शोधकर्ताओं और नीति निर्माताओं को उन्नत एआई सिस्टम की तैयारी के लिए एक शुरुआत देने के एंथ्रोपिक के विचार को परीक्षण में रखा जाएगा। दो महीने का अंतराल एंथ्रोपिक के व्यावसायिक तनाव को भी रेखांकित करता है, जो तकनीकी उद्योग द्वारा इन मॉडलों की साइबर सुरक्षा चिंताओं को हल करने से पहले सामान्य उपयोग के लिए मिथोस-क्लास एआई मॉडल जारी करना चाहता है।

मानव प्रतिद्वंद्वी ओपनएआई ने भी अप्रैल में निजी तौर पर उन्नत साइबर सुरक्षा क्षमताओं वाला एक मॉडल लॉन्च किया। दोनों एआई दिग्गजों ने भी गोपनीय रूप से आईपीओ के लिए आवेदन किया है और इस साल के अंत में सार्वजनिक होने की उम्मीद कर रहे हैं।

“हम सामान्य पहुंच में मिथोस-स्तरीय क्षमताओं को सुरक्षित रूप से जारी करने के लिए जितनी जल्दी हो सके काम कर रहे हैं। ऐसा करने के लिए, हमें अत्यधिक मजबूत सुरक्षा उपायों की आवश्यकता होगी जो मॉडल की साइबर क्षमताओं का दुरुपयोग होने से रोकें – सुरक्षा उपाय जो हम (और, हमारी जानकारी के अनुसार, अन्य सभी एआई डेवलपर्स) ने अभी तक विकसित नहीं किए हैं,” एंथ्रोपिक ने पिछले सप्ताह प्रोजेक्ट ग्लासविंग के बारे में एक अपडेट में लिखा था।

“हम इस तरह से सुधार करने की कोशिश कर रहे हैं जो फायदेमंद हो, भले ही हमारे पास सही सुधार न हो [solution] प्रत्येक उपयोग के मामले को शुरू करने के लिए। सभी विभिन्न दृष्टिकोणों में से, यह सबसे व्यवहार्य और सर्वोत्तम दृष्टिकोण के रूप में उभरा। एंथ्रोपिक के उत्पाद प्रबंधन प्रमुख डायने पेन के हवाले से कहा गया है, ”हमें ऐसा लगा कि उपयोगकर्ताओं के लिए फ़ेबल 5 से अधिकतम मूल्य प्राप्त करने के लिए यह सबसे अच्छा उत्पाद विकल्प था।” तारयुक्त. पेन ने कहा कि परीक्षण और उपयोगकर्ता इनपुट ने इसकी रणनीति को बेहतर बनाने में मदद की है।

क्लाउड कल्पित 5 के लिए रेलिंग

एंथ्रोपिक की बनाने की रणनीति क्लाउड फैबल 5 व्यापक उपयोग के लिए सुरक्षित है इसमें इसकी पुरानी AI तकनीक शामिल है। जब क्लाउड उपयोगकर्ता उन विषयों से संबंधित प्रश्न इनपुट करते हैं जिन्हें बहुत जोखिम भरा माना जा सकता है, तो एंथ्रोपिक ने कहा कि इन अनुरोधों को पुराने एआई मॉडल, क्लाउड ओपस 4.8 पर फिर से भेजा जाएगा, जो पिछले महीने जारी किया गया था और मिथोस के सुरक्षा जोखिमों से बचने के लिए डिज़ाइन किया गया है।

इन रेलिंगों को साइबर सुरक्षा, जीव विज्ञान और अन्य कमजोर क्षेत्रों से संबंधित प्रतिक्रियाओं को अवरुद्ध करने के लिए डिज़ाइन किया गया है। हालाँकि इन्हें कंप्यूटर नेटवर्क पर हमला करने के लिए फ़ेबल का उपयोग करने वाले हैकरों से बचने के लिए डिज़ाइन किया गया है, लेकिन ये उपाय व्यवसायों और साइबर सुरक्षा विशेषज्ञों को नए मॉडल का उपयोग करके नेटवर्क की रक्षा करने के लिए संघर्ष करने पर मजबूर कर सकते हैं।

विशेष रूप से, एंथ्रोपिक ने कहा कि यदि किसी उपयोगकर्ता को क्लाउड फैबल 5 पर आसवन का संचालन करने की कोशिश करने का संदेह है, तो बड़े एआई मॉडल की प्रतिक्रियाओं से एक छोटे एआई मॉडल को प्रशिक्षित करने की तकनीक, उन अनुरोधों को भी उपयोगकर्ता को इसके बारे में सूचित किए बिना क्लाउड ओपस 4.8 पर फिर से भेज दिया जाएगा।

एंथ्रोपिक के डायने पेन के अनुसार, सुरक्षात्मक तंत्र सावधानी बरतने के लिए बनाया गया है, जिसका अर्थ है कि कुछ उपयोगकर्ता प्रश्नों को कम सक्षम एआई मॉडल पर भेजा जा सकता है, भले ही वे सौम्य हों। अतीत में, एंथ्रोपिक ने चिंता व्यक्त की है कि ओपन-वेट मॉडल डेवलपर्स सहित प्रतिस्पर्धी अंततः मिथोस-स्तरीय क्षमताओं के साथ एआई मॉडल भी बना सकते हैं।

कंपनी ने कहा कि उसने 1,000 घंटे से अधिक की रेड-टीमिंग की, एक ऐसी प्रक्रिया जहां शोधकर्ता एआई उत्पादों में सेंध लगाने का प्रयास करते हैं जैसे कि वे बुरे अभिनेता हों। परीक्षकों को मॉडल के लिए कोई सार्वभौमिक जेलब्रेक नहीं मिला। हालाँकि, यह देखना बाकी है कि क्लाउड फैबल 5 के सुरक्षा उपाय जंगल में कितने प्रतिरोधी हैं। अतीत में कई शोध अध्ययनों से पता चला है कि एआई सिस्टम पर लगे रेलिंग हमेशा विश्वसनीय नहीं होते हैं।