ब्रिटिश लैब के अंदर एआई में छिपे खतरों की तलाश | प्रौद्योगिकी समाचार

ब्रिटेन के एआई सिक्योरिटी इंस्टीट्यूट में रेड टीम के नाम से जाने जाने वाले 25 वर्षीय अमेरिकी ज़ेंडर डेविस ने कहा, “कुछ ऐसे सवाल हैं जिनका जवाब आप निश्चित रूप से नहीं चाहते कि मॉडल दे।” “हम उत्तर पाने के लिए वास्तव में कड़ी मेहनत करते हैं।”

डेविस और उनकी रेड टीम, जो एआई सिस्टम पर हमलों का अनुकरण करती है, ने भी हाल ही में ओपनएआई के नवीनतम चैटजीपीटी चैटबॉट पर सुरक्षा उपायों को तोड़ दिया, और इसे लगभग छह घंटे में हैकिंग टिप्स प्रदान करने के लिए राजी किया। समस्याएँ ढूंढने के बाद, वे कंपनियों के साथ परिणाम साझा करते हैं।

“वे इसे ठीक करने की कोशिश करते हैं, हमें कुछ रिपोर्ट करते हैं,” डेविस ने कहा, एक कंप्यूटर वैज्ञानिक जिन्होंने हार्वर्ड विश्वविद्यालय में भाग लेने के बाद सैन फ्रांसिस्को में तकनीकी नौकरी के बजाय संस्थान में काम करना चुना। “वे वास्तव में हमारे साथ अपने सिस्टम को मजबूत करते हैं।”

हथियार निरीक्षकों, सार्वजनिक स्वास्थ्य शोधकर्ताओं और कोड तोड़ने वालों का मिश्रण, एआई सुरक्षा संस्थान दुनिया के सबसे बड़े और सबसे अच्छे वित्त पोषित सरकारी प्रयासों में से एक है जो प्रौद्योगिकी के संभावित विनाशकारी जोखिमों की जांच के लिए समर्पित है।

संस्थान के लगभग 100 कर्मचारी – जो ब्रिटिश खुफिया एजेंसियों, शिक्षाविदों और तकनीकी कंपनियों से लिए गए हैं – ने अपने द्वारा परीक्षण किए गए प्रत्येक प्रमुख एआई मॉडल में बड़ी सुरक्षा खामियां पाई हैं, जिनमें एंथ्रोपिक का क्लाउड और Google का जेमिनी शामिल हैं। लगभग तीन साल पहले बनाए गए संगठन ने कहा कि उसने रासायनिक और जैविक हथियार बनाने और साइबर हमलों की योजना बनाने और उन्हें क्रियान्वित करने के लिए निर्देश साझा करने के लिए एआई सिस्टम को सहयोजित किया है। यह अपने शोध को प्रकाशित करता है और उभरते खतरों की पहचान करने और उनसे निपटने के लिए ब्रिटेन की राष्ट्रीय सुरक्षा एजेंसियों के साथ भी काम करता है।

अब, एआई सुरक्षा के बारे में चिंताएं बढ़ने के कारण संस्थान का काम अन्य सरकारों के लिए एक खाका बनता जा रहा है। ट्रम्प प्रशासन एआई मॉडल की जांच के लिए नियमों पर विचार कर रहा है जिनमें ब्रिटिश समूह द्वारा शुरू किए गए दृष्टिकोण के साथ कुछ समानताएं हैं। चूंकि कई सरकारों के पास प्रौद्योगिकी को नियंत्रित करने के लिए तकनीकी समझ की कमी है और वे स्व-विनियमन के लिए बड़ी तकनीकी कंपनियों पर निर्भर हैं, इसलिए संस्थान एक अलग रास्ता पेश कर सकता है, जिसके लिए एआई विशेषज्ञ सरकारी निर्णय लेने में वास्तविक तकनीकी जानकारी ला सकते हैं।

संस्थान बनाने वाले पूर्व ब्रिटिश प्रधान मंत्री ऋषि सुनक ने एक साक्षात्कार में कहा, “कंपनियों को अपने स्वयं के होमवर्क को चिह्नित करने के लिए नहीं छोड़ा जा सकता है।” “यह लोकतांत्रिक संस्थाओं का काम है।”

अप्रैल में, एंथ्रोपिक ने एक नए एआई मॉडल, मिथोस की घोषणा की, जिसे उसने सार्वजनिक नहीं किया क्योंकि उसे डर था कि वह वैश्विक नेटवर्क में साइबर सुरक्षा खामियों का पता लगा सकता है और उनका फायदा उठा सकता है। सुरक्षा परीक्षण के लिए मॉडल तक पहुंच प्राप्त करने वाला ब्रिटिश संस्थान एकमात्र गैर-अमेरिकी सरकारी संगठन था। मिथोस की घोषणा के छह दिन बाद जारी किए गए इसके निष्कर्षों को सुरक्षा विशेषज्ञों द्वारा व्यापक रूप से उद्धृत किया गया था।

संयुक्त राज्य अमेरिका का अपना एआई सुरक्षा समूह, एआई मानक और नवाचार केंद्र है। लेकिन 360 मिलियन पाउंड सरकारी धन (लगभग 480 मिलियन डॉलर) द्वारा समर्थित ब्रिटिश संस्करण, अपने अमेरिकी समकक्ष की तुलना में बड़ा और बेहतर वित्त पोषित है, जिसे इस वर्ष लगभग 10 मिलियन डॉलर प्राप्त होंगे। ऑस्ट्रेलिया, कनाडा, चीन, फ्रांस, भारत, जापान और सिंगापुर ने इसी तरह के संस्थान बनाए हैं।

फिर भी, एआई सुरक्षा में वैश्विक निवेश प्रौद्योगिकी के निर्माण और व्यावसायीकरण के लिए भारी रकम के सामने फीका पड़ गया है। ओपनएआई, एंथ्रोपिक और गूगल की टीमें सुरक्षा नियंत्रण पर काम कर रही हैं, लेकिन बाहरी शोधकर्ता नियमित रूप से खतरनाक कमियां ढूंढते हैं। इटली में शिक्षाविदों ने हाल ही में कविता का उपयोग करके बम से संबंधित निर्देश प्रदान करने के लिए एक एआई मॉडल को धोखा दिया।

सरकारों ने बड़े पैमाने पर सुरक्षा और सुरक्षा जोखिमों के लिए एआई की समीक्षा करने के लिए समर्पित सिस्टम नहीं बनाए हैं, जैसा कि उन्होंने दवा विकास या कार निर्माण जैसे उद्योगों के लिए बनाया है।

ब्रिटिश प्रधान मंत्री कीर स्टार्मर के एआई सलाहकार और एआई सुरक्षा संस्थान के मुख्य प्रौद्योगिकी अधिकारी जेड लेउंग ने कहा, “जो चीज मुझे रात में जगाए रखती है, वह सरकारों जैसे संस्थानों की तुलना में प्रौद्योगिकी की सापेक्ष गति है, जिन्हें प्रतिक्रिया देनी होती है।”

ब्रिटिश सुरक्षा संस्थान की शुरुआत 2023 में सनक के नंबर 10 डाउनिंग सेंट और दुनिया के तीन सबसे हाई-प्रोफाइल एआई नेताओं – ओपनएआई के सैम अल्टमैन, एंथ्रोपिक के डारियो अमोदेई और गूगल डीपमाइंड के डेमिस हसाबिस की बैठक से हुई। सुनक ने उन्हें याद करते हुए कहा कि एआई की क्षमताएं तेज हो रही हैं, जिसका सरकार, नौकरियों और राष्ट्रीय सुरक्षा पर गहरा प्रभाव पड़ रहा है।

उन्होंने कहा, “विकास की गति उनके लिए भी आश्चर्यजनक थी।”

नवंबर 2023 में, सुनक ने बैलेचले पार्क में एआई सुरक्षा पर विश्व नेताओं के एक शिखर सम्मेलन में संस्थान के निर्माण की घोषणा की, जहां एलन ट्यूरिंग और अन्य ने द्वितीय विश्व युद्ध के दौरान जर्मन एन्क्रिप्शन कोड तोड़ दिए थे।

सिडनी विश्वविद्यालय में एक ऑस्ट्रेलियाई थिंक टैंक, यूनाइटेड स्टेट्स स्टडीज सेंटर में रणनीतिक प्रौद्योगिकी कार्यक्रम के निदेशक ओलिविया शेन ने कहा, संस्थान दूसरों के लिए एक टेम्पलेट बन गया है। पिछले साल, ब्रिटिश संस्थान के लेउंग ने सरकारी नेताओं से मिलने के लिए ऑस्ट्रेलिया की यात्रा की थी। इस वर्ष, ऑस्ट्रेलिया ने अपना स्वयं का AI सुरक्षा केंद्र खोला।

यात्रा के आयोजन में मदद करने वाले शेन ने कहा, “सरकारों को कैच-अप खेलने की जरूरत है।” “जिस गति से प्रौद्योगिकी आ रही है, सरकारें हर दिन गति खो रही हैं।”

ब्रिटिश संस्थान उन्नत एआई से सबसे गंभीर संभावित जोखिमों पर काम करता है: साइबर खतरे, रासायनिक और जैविक हथियार, और मानव व्यवहार में हेरफेर। हाल के सप्ताहों में, यह पाया गया कि एंथ्रोपिक और ओपनएआई के एआई मॉडल एक जटिल, 32-चरणीय कॉर्पोरेट नेटवर्क हमले को अधिक तेज़ी से पूरा कर सकते हैं, जिसे पूरा करने में आमतौर पर एक कुशल मानव हैकर को 20 घंटे लगेंगे।

एक अन्य शोध क्षेत्र इस बात का अध्ययन कर रहा है कि क्या एआई मॉडल परीक्षण के दौरान पहचानते हैं और अपने व्यवहार को बदलते हैं, एक ऐसा विकास जो एआई की जागरूकता के स्तर और धोखा देने की क्षमता का संकेत देगा।

एआई सिक्योरिटी इंस्टीट्यूट के अंतरिम निदेशक एडम ब्यूमोंट ने कहा कि एक बड़ा डर प्रौद्योगिकी की मानव व्यवहार की नकल है। पिछले साल, संस्थान ने एक अध्ययन प्रकाशित किया था जिसमें पाया गया था कि चैटबॉट लोगों की राजनीतिक राय बदल सकते हैं।

ब्रिटेन की खुफिया, सुरक्षा और साइबर एजेंसी जीसीएचक्यू के पूर्व शीर्ष एआई अधिकारी ब्यूमोंट ने कहा, “इस इमारत में बहुत सारे लोग इनमें से प्रत्येक चीज़ को देख रहे हैं।”

कई लोगों को डर है कि संस्थान का काम अपर्याप्त है। ब्रिटिश समूह के पास कोई नियामक शक्ति नहीं है, और इसके शोधकर्ताओं को इस बारे में जानकारी नहीं मिलती है कि शीर्ष एआई मॉडल कैसे प्रशिक्षित और बनाए जाते हैं। यह अपने बहुत से शोध को निजी रखता है, इसे केवल कुछ सरकारी एजेंसियों और कंपनियों के साथ साझा करता है।

भर्ती करना भी एक चुनौती है. वरिष्ठ नेताओं के अलावा, इसके कर्मचारी प्रति वर्ष 145,000 पाउंड (लगभग $195,000) तक कमा सकते हैं। कई लोग एआई कंपनियों में करोड़ों डॉलर के वेतन पैकेज से दूर चले गए हैं, जिसे कुछ लोग सरकार का “ड्यूटी का दौरा” कहते हैं।

इयान हॉगर्थ, एक तकनीकी निवेशक जिन्होंने संस्थान की सह-स्थापना की, एंथ्रोपिक के शुरुआती समर्थक थे। हितों के टकराव से बचने के लिए, उन्होंने शामिल होने के बाद अपनी एंथ्रोपिक हिस्सेदारी बेच दी। एआई स्टार्टअप की कीमत जल्द ही $900 बिलियन हो सकती है, जो 2023 की शुरुआत में लगभग $4 बिलियन थी।

44 वर्षीय हॉगर्थ, जो अब संस्थान के अध्यक्ष हैं, ने कहा, “मुझे बंधक मिल गया है, इसलिए यह बिल्कुल भी मामूली निर्णय नहीं था।” उन्होंने कहा कि यह एक “महंगा” विकल्प था, लेकिन सही था।

उन्होंने कहा, “मैं प्रौद्योगिकी को सही करने के महत्व में विश्वास करता हूं और मानता हूं कि इसमें सरकार की भूमिका है।”