‘एआई एजेंट स्वाभाविक रूप से दुर्भावनापूर्ण नहीं हैं, लेकिन अथक हो सकते हैं’: डेल के मुख्य सुरक्षा अधिकारी जॉन सिमोन | प्रौद्योगिकी समाचार

उन्होंने कहा, “उन लक्ष्यों को प्राप्त करने पर लगातार और निरंतर ध्यान केंद्रित करने से, यदि एजेंटिक कार्यान्वयन को ठीक से नियंत्रित और सुरक्षित नहीं किया जाता है, तो अनपेक्षित परिणाम और व्यवहार सामने आ सकते हैं।”

एआई एजेंट वेब ब्राउज़ कर सकते हैं, फ़ाइलें पढ़ और लिख सकते हैं, बाहरी एपीआई कॉल कर सकते हैं और डेटाबेस क्वेरी कर सकते हैं। हालाँकि, बड़े भाषा मॉडल (एलएलएम) एक अनसुलझे दोष से ग्रस्त हैं: शीघ्र इंजेक्शन। चूंकि एलएलएम डेटा को निर्देशों से स्पष्ट रूप से अलग नहीं करते हैं, जिसका अर्थ है कि किसी भी डेटा, जैसे वेब पेज की सामग्री, ईमेल या लॉग प्रविष्टि को प्रभावी ढंग से निर्देशों के रूप में व्याख्या किया जा सकता है। इसके बाद जोखिम यह होता है कि हमलावर एजेंट की अपनी पहचान का उपयोग करके विश्वसनीय सिस्टम के भीतर से एआई एजेंटों को हेरफेर कर सकते हैं।

गार्टनर का कहना है कि 2025 में 5 प्रतिशत से भी कम एंटरप्राइज़ अनुप्रयोगों ने कार्य-विशिष्ट एआई एजेंटों का उपयोग किया। 2026 में, यह संख्या 800 प्रतिशत बढ़ने की उम्मीद है। विश्लेषक फर्म का यह भी अनुमान है कि 2026 में 40 प्रतिशत से अधिक एंटरप्राइज एप्लिकेशन एआई एजेंटों का उपयोग करेंगे।

डेल के अध्यक्ष और मुख्य सुरक्षा अधिकारी जॉन सिमोन, लास वेगास में डेल टेक्नोलॉजीज वर्ल्ड के दौरान स्वायत्त एआई एजेंटों द्वारा उत्पन्न जोखिमों के बारे में बात करते हैं। (छवि क्रेडिट: अनुज भाटिया/द इंडियन एक्सप्रेस)

“हमने आंतरिक रूप से और अपने ग्राहकों के साथ, और दुनिया भर में हमारे साथ साझेदारी कर रहे कई संगठनों के साथ जो देखा है, जो वास्तव में इस क्षेत्र में झुकाव कर रहे हैं, वह यह है कि वे कह रहे हैं: हम इस तकनीक में विश्वास करते हैं, और हम उन लाभों में विश्वास करते हैं जो यह ला सकते हैं। जब आप सुरक्षित-दर-डिज़ाइन, सुरक्षित-बाय-डिफ़ॉल्ट दृष्टिकोण अपनाते हैं और सुरक्षा सर्वोत्तम प्रथाओं को लागू करते हैं, तो आप इसे सुरक्षित और लचीले ढंग से कर सकते हैं। वास्तव में, आप विरासत वास्तुकला और पारंपरिक की तुलना में अधिक सुरक्षा और लचीलापन प्राप्त कर सकते हैं। बुनियादी ढांचे का कार्यान्वयन, ”सिमोन ने कहा।

उभरता आंतरिक ख़तरा

चूंकि एआई एजेंटों को कॉर्पोरेट नेटवर्क तक अधिक पहुंच दी जाती है और उन्हें अधिक कार्य आवंटित किए जाते हैं, समस्या तब उत्पन्न होती है जब वे नेटवर्क के भीतर 24/7 चलते हैं और, अपनी विस्तारित क्षमताओं के साथ, जोखिम और खतरों के अधीन हो जाते हैं।

पालो अल्टो नेटवर्क के मुख्य सुरक्षा खुफिया अधिकारी वेंडी व्हिटमोर स्वायत्त एआई एजेंटों को एक प्रमुख उभरते आंतरिक खतरे के रूप में पहचानते हैं।

2025 में, सुरक्षा शोधकर्ताओं ने दिखाया कि एक त्वरित-इंजेक्शन हमले ने सेल्सफोर्स के सीआरएम प्लेटफॉर्म को संभावित डेटा चोरी के संपर्क में ला दिया। एआई एजेंटों को सीआरएम रिकॉर्ड पुनर्प्राप्त करने और उन्हें बाहरी हमलावरों को भेजने से रोकने के लिए सेल्सफोर्स ने तुरंत पैच जारी किए। यह भेद्यता, जिसे “फोर्स्डलीक” कहा जाता है, दर्शाती है कि मानव निरीक्षण के बिना एआई एजेंटों का दुरुपयोग कैसे किया जा सकता है।

2025 में एक अन्य मामले में, सुरक्षा शोधकर्ताओं ने ओपनएआई के कोडेक्स सीएलआई कोडिंग एजेंट में एक भेद्यता पाई जो हमलावरों को साझा प्रोजेक्ट फ़ाइलों में हानिकारक निर्देशों को एम्बेड करके डेवलपर की मशीन पर दुर्भावनापूर्ण कमांड निष्पादित करने की अनुमति दे सकती है। इससे स्थानीय सिस्टम समझौता, क्रेडेंशियल चोरी, कोड छेड़छाड़ और संभावित डाउनस्ट्रीम उद्यम उल्लंघन हो सकता है, जो प्रभावी रूप से एआई सहायक को हमले के प्रवेश बिंदु में बदल सकता है।

सुरक्षा विशेषज्ञों ने चेतावनी दी है कि व्यापक सिस्टम पहुंच वाले एआई एजेंट उद्यम हमले की सतह का विस्तार कर सकते हैं। (छवि क्रेडिट: अनुज भाटिया/द इंडियन एक्सप्रेस)

एजेंटिक एआई के युग में न केवल पारंपरिक सुरक्षा उपाय अब काम नहीं करते, बल्कि एआई एजेंटों के साथ इंसानों जैसा व्यवहार करना एक संभावित समाधान हो सकता है। यह समझना महत्वपूर्ण है कि जब कोई मानव किसी सिस्टम में लॉग इन करता है, तो वे पहचान सत्यापन से गुजरते हैं, उनके कार्यों को लॉग किया जाता है और निगरानी की जाती है, और असामान्य व्यवहार अलर्ट ट्रिगर करता है। इसी तरह, एआई एजेंटों को भी समकक्ष नियंत्रणों के साथ शासित किया जाना चाहिए: एक सत्यापित एजेंट पहचान, उनके कार्यों और निर्णयों की पूर्ण लॉगिंग, व्यवहार की निगरानी और पूर्ण सत्र ट्रैकिंग।

“जैसा कि हम एजेंट एआई के साथ जोखिम और इनाम के बीच व्यापार-बंद की निरंतरता को पार करते हैं, हम जो देखते हैं वह यह है कि हर कंपनी के पास एक अलग सही उत्तर होता है। लेकिन सामान्य सही उत्तर में एक प्रक्रिया होती है जिसके द्वारा आप सोच-समझकर शासन करते हैं। आप इसे अपनी व्यावसायिक रणनीति से जोड़ते हैं, और आप इसे अपनी नियामक अनुपालन आवश्यकताओं से जोड़ते हैं, “सिमोन ने कहा।

“यह वास्तव में महत्वपूर्ण है कि जैसे ही हम जोखिम प्रबंधन के लिए सिद्धांत स्थापित करते हैं, शासन के लिए सिद्धांत जिन्हें हम हासिल करने की कोशिश कर रहे हैं, कि हमारे पास वास्तव में इसे तकनीकी रूप से त्वरित करने का एक तरीका है। यह सिर्फ नीति के बारे में नहीं है, बल्कि इसे लागू करने और यह सुनिश्चित करने के लिए वास्तविक प्रौद्योगिकी आर्किटेक्चर स्थापित किए गए हैं कि एजेंट वैसा ही व्यवहार करें जैसा हम उन्हें व्यवहार करने के लिए डिज़ाइन करते हैं,” उन्होंने कहा।