Google ने अपने 1.8 बिलियन Gmail उपयोगकर्ताओं को दुनिया भर में एक नए साइबर सुरक्षा खतरे की चेतावनी दी है जो कृत्रिम बुद्धिमत्ता में प्रगति का शोषण करती है, पुरुषों की जर्नल की सूचना दी।
अप्रत्यक्ष शीघ्र इंजेक्शन क्या हैं?
कंपनी ने कथित तौर पर अलार्म पर उठाया हैअप्रत्यक्ष त्वरित इंजेक्शनहमले का एक रूप जो कहता है कि यह व्यक्तियों, व्यवसायों और यहां तक कि सरकारों को लक्षित कर सकता है।
में एक हाल ही में ब्लॉग पोस्ट, Google ने बताया कि प्रत्यक्ष शीघ्र इंजेक्शन के विपरीत, जहां हैकर्स एक AI टूल में दुर्भावनापूर्ण कमांड दर्ज करते हैं, अप्रत्यक्ष हमलों में बाहरी स्रोतों जैसे ईमेल, दस्तावेज़ या कैलेंडर आमंत्रण जैसे हानिकारक निर्देशों को छिपाना शामिल है। एक बार संसाधित होने के बाद, ये निर्देश प्रणाली को संवेदनशील जानकारी को उजागर करने या अनधिकृत कार्यों को अंजाम देने में चकरा सकते हैं।
“तेजी से गोद लेने के साथ उदार एआईउद्योग भर में खतरों की एक नई लहर उभर रही है, ”कंपनी ने लिखा, चेतावनी देते हुए कि जोखिम अधिक महत्वपूर्ण हो जाता है क्योंकि एआई का उपयोग पेशेवर और व्यक्तिगत कार्यों के लिए अधिक व्यापक रूप से किया जाता है।
विशेषज्ञ जोखिम की व्याख्या करते हैं
प्रौद्योगिकी विशेषज्ञ स्कॉट पोल्डरमैन ने बतायादैनिक रिकॉर्ड कि हमलावर मिथुन का शोषण कर रहे हैं, Google का अपना AI चैटबॉटऐसे घोटालों का संचालन करने के लिए। उन्होंने समझाया कि दुर्भावनापूर्ण कोड को एक ईमेल के भीतर छुपाया जा सकता है और, जब मिथुन द्वारा पढ़ा जाता है, तो उपयोगकर्ता को एहसास के बिना लॉगिन विवरण निकालने के लिए उपयोग किया जाता है।
“खतरा यह है कि लोगों को किसी भी चीज़ पर क्लिक करने की आवश्यकता नहीं है,” पोल्डरमैन ने कहा। “छिपे हुए निर्देश AI को पासवर्ड और अन्य डेटा को प्रकट करने का कारण बन सकते हैं, प्रभावी रूप से सिस्टम को अपने खिलाफ बदल सकते हैं।”
Google ने कथित तौर पर कहा है कि उसने पहले ही नई सुरक्षा शुरू कर दी है। इनमें इसे मजबूत करना शामिल है मिथुन 2.5 मॉडलसंदिग्ध संकेतों को हाजिर करने और सिस्टम स्तर पर व्यापक सुरक्षा उपायों को जोड़ने के लिए मशीन-लर्निंग सिस्टम का परिचय देना। कंपनी के अनुसार, इन परतों को इस तरह के हमलों की कठिनाई और खर्च को बढ़ाने के लिए डिज़ाइन किया गया है, जिससे साइबर क्रिमिनल को कम सूक्ष्म और अधिक पता लगाने योग्य तरीकों का उपयोग करने के लिए मजबूर किया गया है।
चेतावनी इस बात की चिंता के बीच आता है कि कैसे दुर्भावनापूर्ण उद्देश्यों के लिए कृत्रिम बुद्धिमत्ता में हेरफेर किया जा सकता है, दुनिया भर में अरबों उपयोगकर्ताओं द्वारा निर्भर रोजमर्रा की सेवाओं में एआई उपकरणों को एम्बेड करने के संभावित जोखिमों को उजागर करता है।