एंथ्रोपिक सख्त एआई नियम चाहता है, नया सुरक्षा ढांचा मजबूत सरकारी निगरानी चाहता है | प्रौद्योगिकी समाचार

एआई कंपनी चाहती है कि सरकार एआई मॉडल की तैनाती को अवरुद्ध या हतोत्साहित करे जो विनाशकारी नुकसान का महत्वपूर्ण जोखिम पैदा कर सकता है। इसके साथ वैश्विक वार्षिक राजस्व से जुड़े नागरिक दंड भी होंगे जो बार-बार उल्लंघन के साथ बढ़ते हैं।

फ़्रेमवर्क के अनुसार, ये नियम 10²⁵ से अधिक फ़्लोटिंग-पॉइंट ऑपरेशंस (FLOPs) का उपयोग करके प्रशिक्षित और वार्षिक AI राजस्व में $500 मिलियन से अधिक कमाने वाली या AI अनुसंधान और विकास पर प्रति वर्ष $1 बिलियन से अधिक खर्च करने वाली कंपनियों द्वारा विकसित किए गए मॉडल पर लागू होंगे। यह सीमा संभवतः एंथ्रोपिक के अलावा कुछ मुट्ठी भर कंपनियों पर लागू होगी, जैसे कि ओपनएआई, गूगल डीपमाइंड, एक्सएआई, मेटा, आदि।

रूपरेखा विनाशकारी जोखिम की चार श्रेणियों पर केंद्रित है जैसे “(ए) जैविक हथियार, (बी) आक्रामक साइबर ऑपरेशन, (सी) नियंत्रण की हानि, और (डी) प्रमुख डोमेन में स्वचालित अनुसंधान और विकास जो जोखिमों को तेज या बढ़ा सकते हैं।” ऐसा लगता है कि यह प्रस्ताव मुख्य रूप से अमेरिकी सरकार पर लक्षित है, लेकिन इसके कई विचारों को दुनिया भर के देशों द्वारा अपनाया जा सकता है।

रूपरेखा का प्रस्ताव क्यों है?

एंथ्रोपिक का मानना ​​है कि भविष्य के एआई सिस्टम खतरनाक जैविक हथियार बनाने, परिष्कृत साइबर हमलों को अंजाम देने या मानव क्षमताओं से परे गति से अनुसंधान और विकास करने में मदद करने के लिए पर्याप्त शक्तिशाली हो सकते हैं। यह एआई सिस्टम के अप्रत्याशित तरीके से व्यवहार करने या प्रभावी मानव नियंत्रण से बचने की संभावना के बारे में भी चेतावनी देता है। इन जोखिमों के वास्तविकता में बदलने की प्रतीक्षा करने के बजाय, एआई स्टार्टअप यह तर्क दे रहा है कि सरकारों और प्रौद्योगिकी कंपनियों को अभी से तैयारी शुरू कर देनी चाहिए।

रूपरेखा के दो मुख्य लक्ष्य उन कंपनियों के लिए सख्त जिम्मेदारियों का प्रस्ताव करना है जो दुनिया के सबसे शक्तिशाली एआई मॉडल का निर्माण कर रही हैं। दूसरे, यह एआई की भागीदारी की परवाह किए बिना, समाज को जैविक और साइबर खतरों के प्रति अधिक लचीला बनाने के लिए व्यापक निवेश की सिफारिश करता है। प्रमुख सिफारिशों में से एक यह है कि उन्नत एआई मॉडल को व्यापक रूप से तैनात करने से पहले कठोर सुरक्षा परीक्षण से गुजरना चाहिए।

कंपनी के अनुसार, डेवलपर्स को यह आकलन करना चाहिए कि क्या उनके सिस्टम जैविक हथियार बनाने, साइबर हमले शुरू करने, मानव नियंत्रण के बाहर काम करने या खतरनाक अनुसंधान में नाटकीय रूप से तेजी लाने में मदद कर सकते हैं। इसका तर्क है कि कंपनियों को सुरक्षा रिपोर्ट प्रकाशित करनी चाहिए जिसमें बताया जाए कि उन्होंने क्या परीक्षण किया, क्या जोखिम पाए, और क्या सुरक्षा उपाय तैनात किए गए हैं। उन्हें नियमित अपडेट भी जारी करना चाहिए और किसी भी बड़ी सुरक्षा घटना की तुरंत (15 दिनों के भीतर) सरकारी अधिकारियों को रिपोर्ट करनी चाहिए।

एंथ्रोपिक का तर्क है कि कंपनियों को केवल अपने मॉडलों का मूल्यांकन नहीं करना चाहिए। इसके बजाय, बाहरी विशेषज्ञों को स्वतंत्र रूप से उन्नत एआई सिस्टम की जांच करनी चाहिए और कंपनी के सुरक्षा आकलन की समीक्षा करनी चाहिए। इन मूल्यांकनकर्ताओं को मॉडलों के बारे में महत्वपूर्ण जानकारी तक पहुंच होनी चाहिए और सार्वजनिक रूप से यह बताने में सक्षम होना चाहिए कि वे कंपनी के निष्कर्ष से सहमत हैं या नहीं। यह ढांचा यह सुनिश्चित करने के लिए मानक और फंडिंग तंत्र बनाने की भी सिफारिश करता है कि ये स्वतंत्र मूल्यांकनकर्ता हितों के टकराव से मुक्त रहें।

सरकारों के पास प्रवर्तन शक्तियाँ होनी चाहिए

कंपनी के मुताबिक सिर्फ पारदर्शिता ही काफी नहीं है. प्रस्ताव में सरकारों को उन कंपनियों को दंडित करने का अधिकार देने की सिफारिश की गई है जो आवश्यक सुरक्षा परीक्षण करने, भ्रामक जानकारी प्रकाशित करने या गंभीर घटनाओं को छिपाने में विफल रहती हैं। चरम स्थितियों में, नियामक संभावित रूप से एआई सिस्टम की तैनाती को रोक सकते हैं जो अस्वीकार्य विनाशकारी जोखिम पैदा करते हैं। साथ ही, रूपरेखा न्यायिक समीक्षा और तथ्य-आधारित निर्णय लेने सहित नियामक अतिरेक के खिलाफ सुरक्षा उपायों की आवश्यकता पर भी जोर देती है।

इस बीच, प्रस्ताव का दूसरा भाग एआई कंपनियों से परे दिखता है और समाज पर ही केंद्रित है। एआई लैब का तर्क है कि सरकारों को जैव सुरक्षा नियमों का आधुनिकीकरण करना चाहिए, खतरनाक रोगजनकों से जुड़े अनुसंधान की निगरानी में सुधार करना चाहिए और दुरुपयोग के जोखिम को कम करने के लिए जीन संश्लेषण अनुरोधों की स्क्रीनिंग की आवश्यकता होनी चाहिए।

रूपरेखा साइबर सुरक्षा में महत्वपूर्ण निवेश का भी प्रस्ताव करती है। इनमें ओपन-सोर्स सॉफ़्टवेयर की सुरक्षा में सुधार करना, फ़िशिंग-प्रतिरोधी प्रमाणीकरण विधियों को प्रोत्साहित करना, कम संसाधन वाले महत्वपूर्ण बुनियादी ढांचे ऑपरेटरों को अपनी सुरक्षा को मजबूत करने में मदद करना और साइबर हमलों का अधिक तेज़ी से पता लगाने और प्रतिक्रिया देने के लिए एआई का उपयोग करना शामिल है। एंथ्रोपिक सॉफ्टवेयर कमजोरियों की पहचान करने, सुरक्षा पैच तैनाती में तेजी लाने और पुराने डिजिटल बुनियादी ढांचे को बदलने के लिए बेहतर सिस्टम बनाने की भी सिफारिश करता है जो हमले के प्रति संवेदनशील रहता है।

यहां मुख्य संदेश यह है कि दुनिया की सबसे शक्तिशाली एआई प्रणालियों को अधिक पारदर्शिता, स्वतंत्र निरीक्षण और मजबूत सुरक्षा आवश्यकताओं का सामना करना चाहिए। एंथ्रोपिक के विचार में, तैयारी का समय विनाशकारी जोखिमों के वास्तविकता बनने से पहले का है, उसके बाद का नहीं।