ओपन सिक्योर एआई एलायंस क्या है? एआई सुरक्षा के लिए एनवीडिया का नवीनतम प्रयास | प्रौद्योगिकी समाचार

एनवीडिया ओपन एआई सुरक्षा पर दांव क्यों लगा रहा है?

गठबंधन का लक्ष्य खुले एआई उपकरण बनाना और साझा करना है जो सॉफ्टवेयर और डिजिटल बुनियादी ढांचे को मजबूत करते हैं। इसके सदस्यों में एनवीआईडीआईए, माइक्रोसॉफ्ट, आईबीएम, सिस्को, डेल टेक्नोलॉजीज, एडोब, क्राउडस्ट्राइक, पालो ऑल्टो नेटवर्क्स, सेल्सफोर्स, एसएपी, लिनक्स फाउंडेशन, हगिंग फेस और एंटरप्राइज टेक्नोलॉजी, साइबर सुरक्षा और एआई रिसर्च में काम करने वाले दर्जनों अन्य संगठन शामिल हैं।

गठबंधन का मूल तर्क सरल है. साइबर रक्षकों को अपारदर्शी ब्लैक-बॉक्स मॉडल के बजाय एआई सिस्टम की आवश्यकता होती है जिनकी आंतरिक कार्यप्रणाली का निरीक्षण किया जा सके। तर्क यह है कि बंद मॉडल, चाहे कितने भी उन्नत और सक्षम क्यों न हों, हमेशा अपने सिस्टम की जांच करने वाले हमलावर और बचावकर्ता के बीच अंतर नहीं कर सकते। यह अस्पष्टता अक्सर उस समय आड़े आती है जब गति सबसे अधिक मायने रखती है।

शायद गठबंधन का सबसे बड़ा चालक हालिया हगिंग फेस सुरक्षा घटना है। जब बंद एआई टूल ने सुरक्षा उल्लंघन की जांच को रोक दिया, तो हगिंग फेस ने 17,000 से अधिक कार्यों का विश्लेषण करने और स्थिति को नियंत्रित करने के लिए अपने सिस्टम पर एक ओपन-वेट मॉडल का उपयोग किया। गठबंधन के संस्थापकों के लिए, यह पर्याप्त प्रमाण है कि खुला, निरीक्षण योग्य एआई केवल एक प्राथमिकता नहीं है, बल्कि एक परिचालन आवश्यकता है जब रक्षकों को तेजी से आगे बढ़ने और अपने हाथों में उपकरणों पर भरोसा करने की आवश्यकता होती है।

गठबंधन मौजूदा ओपन सोर्स सुरक्षा कार्य द्वारा समर्थित है, जिसमें लिनक्स फाउंडेशन के प्रयास और ओपनएसएसएफ समुदाय शामिल हैं, और साइबर सुरक्षा को उन प्रमुख क्षेत्रों में से एक मानता है जो ओपन सोर्स दृष्टिकोण से लाभान्वित हो सकते हैं। खुले बनाम बंद एआई की तुलना करने के बजाय, गठबंधन दोनों को पूरक के रूप में पेश करता है। इसका मतलब है कि बंद सीमांत मॉडल की अभी भी भूमिका है, लेकिन खुले मॉडल और उपकरण मुट्ठी भर अपारदर्शी प्रदाताओं पर निर्भर हुए बिना रक्षकों के एक व्यापक समूह को परीक्षण, अनुकूलन और सुरक्षा तैनात करने की अनुमति देते हैं।

सुरक्षा मशीनरी साझा करना

व्यवहार में, इसका मतलब है कि कंपनियां सिर्फ एआई मॉडल साझा नहीं कर रही हैं; वे आसपास की सभी सुरक्षा मशीनरी को भी साझा कर रहे हैं, जैसे कि सिस्टम जो सत्यापित करते हैं कि एआई उपकरण का उपयोग कौन कर रहा है, इसे नियंत्रित करने के लिए कि इसे क्या करने की अनुमति है, और इसके कार्यों का रिकॉर्ड रखता है।

कुछ शुरुआती उदाहरण: एनवीआईडीआईए ने सुरक्षित एआई हार्नेस, एक मॉडल के चारों ओर लपेटी गई रेलिंग बनाने में मदद के लिए शोध जारी किया है। एचपीई ऐसे उपकरणों का योगदान दे रहा है जो संवेदनशील संसाधनों तक पहुंचने की अनुमति देने से पहले एआई सिस्टम की पहचान को सत्यापित करते हैं। हगिंग फेस ने एआई मॉडल को स्टोर करने का एक सुरक्षित तरीका साझा किया है ताकि उनका उपयोग गुप्त रूप से दुर्भावनापूर्ण कोड चलाने के लिए नहीं किया जा सके। आईबीएम और रेड हैट यह सत्यापित करने में मदद कर रहे हैं कि सॉफ़्टवेयर अपडेट के साथ छेड़छाड़ नहीं की गई है। माइक्रोसॉफ्ट ने एक टूल बनाया है जो शोषण योग्य बग की तलाश के लिए कई एआई एजेंटों का उपयोग करता है। और SpaceXAI ने अपने AI कोडिंग टूल में से एक को ओपन-सोर्स किया है, अंततः अपने ग्रोक मॉडल के लिए भी ऐसा ही करने की योजना है।

गठबंधन नीति निर्माताओं से आग्रह कर रहा है कि वे खुले एआई सिस्टम को अपने बंद समकक्षों की तुलना में स्वाभाविक रूप से जोखिम भरा न मानें। समूह का तर्क है कि खुले सीमा मॉडल पर व्यापक प्रतिबंध, कम संख्या में बंद प्रदाताओं को सशक्त बनाएंगे और वास्तव में महत्वपूर्ण प्रणालियों की रक्षा करने में सक्षम लोगों के पूल को कम कर सकते हैं। इसके बजाय, गठबंधन साझा रक्षात्मक बुनियादी ढांचे जैसे डेटासेट, मूल्यांकन ढांचे, आक्रमण सिमुलेटर और रेड-टीमिंग टूल में सार्वजनिक और निजी निवेश का आह्वान कर रहा है।