(ब्लूमबर्ग) – क्रिस बॉयड, एक सॉफ्टवेयर इंजीनियर, ने जनवरी के अंत में ओपनक्लाव नामक एक डिजिटल निजी सहायक के साथ छेड़छाड़ शुरू कर दी, जबकि उसके उत्तरी कैरोलिना स्थित घर पर बर्फबारी हो रही थी। उन्होंने इसका उपयोग प्रासंगिक समाचारों का दैनिक डाइजेस्ट बनाने और उन्हें हर सुबह 5:30 बजे अपने इनबॉक्स में भेजने के लिए किया।
लेकिन जब उन्होंने ओपन-सोर्स एआई एजेंट को iMessage तक पहुंच प्रदान की, तो बॉयड का कहना है कि ओपनक्लॉ दुष्ट हो गया। इसने बॉयड और उनकी पत्नी पर 500 से अधिक संदेशों की बौछार कर दी और यादृच्छिक संपर्कों को भी स्पैम कर दिया।
बॉयड ने कहा, “यह सॉफ़्टवेयर का एक आधा-अधूरा अल्पविकसित टुकड़ा है जिसे बेतरतीब ढंग से एक साथ चिपका दिया गया था और बहुत जल्दी जारी किया गया था,” उन्होंने कहा कि उन्होंने जोखिम को कम करने के लिए अपने स्वयं के सुरक्षा पैच लागू करने के लिए ओपनक्लाव के कोडबेस को बदल दिया है। “मुझे एहसास हुआ कि यह छोटी गाड़ी नहीं थी। यह खतरनाक था।”
ओपनक्लॉ, जिसे पहले क्लॉडबॉट और मोल्टबॉट कहा जाता था, ने नवंबर में पेश किए जाने के बाद से स्वायत्त रूप से संचालित करने, उपयोगकर्ताओं के इनबॉक्स को साफ़ करने, रेस्तरां आरक्षण करने और उड़ानों के लिए चेक-इन करने जैसे अन्य कार्यों के लिए एक लोकप्रिय पंथ तैयार किया है। लेकिन कुछ साइबर सुरक्षा विशेषज्ञों ने ओपनक्लाव की सुरक्षा को ढीला बताया और तर्क दिया कि एआई टूल का उपयोग महत्वपूर्ण – और अज्ञात – जोखिमों के साथ आता है।
एआई के लिए तैयार सुरक्षा कंपनी हिडनलेयर इंक में सुरक्षा अनुसंधान के निदेशक कासिमिर शुल्ज़ ने कहा कि ओपनक्लॉ विशेष रूप से जोखिम भरा है क्योंकि यह “घातक ट्राइफेक्टा” के सभी बक्सों की जांच करता है, जो एआई के भीतर जोखिम को मापने का एक मानक है। “यदि एआई के पास निजी डेटा तक पहुंच है, तो यह एक संभावित जोखिम है। यदि इसमें बाहरी रूप से संचार करने की क्षमता है, तो यह एक संभावित जोखिम है। और फिर यदि यह उजागर हो रहा है – अगर इसमें अविश्वसनीय सामग्री का जोखिम है – तो यह घातक ट्राइफेक्टा का अंतिम है। और मोल्टबॉट के पास तीनों तक पहुंच है,” शुल्ज ने टूल के पूर्व नाम का उपयोग करते हुए कहा।
विलियम एंड मैरी कॉलेज में सहायक कंप्यूटर विज्ञान के प्रोफेसर यू जिओ ने कहा कि ओपनक्लॉ के साथ त्वरित इंजेक्शन जैसे तरीकों का उपयोग करके व्यक्तिगत डेटा चोरी करना अपेक्षाकृत आसान है, जब हैकर्स दुर्भावनापूर्ण आदेशों को वैध संकेतों के रूप में छिपाते हैं। “आप कल्पना कर सकते हैं कि सॉफ्टवेयर सिस्टम में पारंपरिक हमले की सतह उन प्रकार के एआई एजेंटों के एकीकरण से काफी बढ़ जाएगी,” जिओ ने कहा।
ओपनक्लॉ के निर्माता, पीटर स्टीनबर्गर ने ब्लूमबर्ग न्यूज़ को बताया कि एआई टूल और इसकी सुरक्षा पर काम चल रहा है। उन्होंने एक ईमेल में कहा, “यह अभी तक पूरा नहीं हुआ है – लेकिन हम वहां पहुंच रहे हैं।” “बड़े पैमाने पर रुचि और खुले स्वभाव और योगदान देने वाले कई लोगों को देखते हुए, हम उस मोर्चे पर बहुत प्रगति कर रहे हैं।”
स्टाइनबर्गर ने कहा कि मुख्य सुरक्षा उल्लंघन उपयोगकर्ताओं द्वारा ओपनक्लाव के दिशानिर्देशों को नहीं पढ़ने से होते हैं, हालांकि वह स्वीकार करते हैं कि कोई “पूरी तरह से सुरक्षित” सेटअप नहीं है। उन्होंने कहा, “यह परियोजना तकनीकी समझ रखने वाले लोगों के लिए है जो जानते हैं कि वे क्या कर रहे हैं और एलएलएम की अंतर्निहित जोखिम प्रकृति को समझते हैं।” उन्होंने त्वरित इंजेक्शन को एक उद्योगव्यापी समस्या बताया और कहा कि उन्होंने ओपनक्लाव पर काम करने के लिए एक सुरक्षा विशेषज्ञ को नियुक्त किया है।
उन्होंने इस बात पर भी विवाद किया कि ओपनक्लॉ को बहुत जल्दी रिलीज़ किया गया था। “मैं पूरी तरह से खुले में निर्माण करता हूं। इसमें ‘बहुत जल्दी रिलीज’ नहीं है, क्योंकि यह शुरू से ही खुला स्रोत है और कोई भी इसमें भाग ले सकता है,” स्टीनबर्गर ने कहा। “चीजें काफी तेजी से आगे बढ़ रही हैं, और मैं अंततः इस परियोजना को ऐसी चीज़ में विकसित करने के लिए उत्साहित हूं जिसका उपयोग मेरी मां भी कर सकें।”
कई प्रमुख प्रौद्योगिकी कंपनियां एआई एजेंटों के उपयोग को विकसित और विस्तारित करने पर जोर दे रही हैं। एंथ्रोपिक पीबीसी का क्लाउड कोड केवल छह महीनों में $1 बिलियन के राजस्व रन रेट तक पहुंच गया।
लेकिन साइबर सुरक्षा विशेषज्ञों का कहना है कि नए एआई अनुप्रयोगों के साथ जोखिम आम हैं, कुछ मामलों में क्योंकि तकनीक इतनी नई है कि संभावित खतरों को समझने के लिए पर्याप्त जानकारी या अनुभव नहीं है।
न्यूयॉर्क विश्वविद्यालय में कंप्यूटर विज्ञान के प्रोफेसर और साइबर सुरक्षा विशेषज्ञ जस्टिन कैपोस ने एजेंटिक एआई सहायकों का जिक्र करते हुए कहा, “हमें समझ में नहीं आता कि वे जो करते हैं वह क्यों करते हैं।” इसलिए, जबकि वह और अन्य साइबर विशेषज्ञ प्रौद्योगिकी को उपयोग के लिए सुरक्षित बनाने पर काम कर रहे हैं, उन्होंने कहा कि एआई कंपनियों के पास “इंजीनियरों की टीमें हैं जो मूल रूप से नई सुविधाओं को पेश करने के लिए चौबीसों घंटे काम कर रही हैं और इसलिए सुरक्षा समुदाय के लिए इसे बनाए रखना बहुत कठिन है।”
परिणामस्वरूप, कैपोस ने कहा, नए एआई एजेंटों को “आपके सिस्टम पर चीजों तक पहुंच देना एक बच्चे को कसाई चाकू देने जैसा है।”
जो कंपनियाँ OpenClaw या अन्य AI एजेंटों का उपयोग करना चाहती हैं, उनके लिए चुनौती तकनीकी प्रगति का लाभ उठाने और कुछ हद तक नियंत्रण रखने के बीच संतुलन बनाने की होगी।
“हम अभी भी एक उद्योग के रूप में हैं, साइबर सुरक्षा के साथ-साथ एआई उद्योग भी, वास्तव में यह पता लगाने की कोशिश कर रहे हैं कि इस हथियारों की दौड़ में अगला विजेता क्या होने वाला है,” साइबर सुरक्षा फर्म आर्मिस में खतरे की खुफिया जानकारी के प्रमुख माइकल फ्रीमैन ने कहा, जिन्होंने ओपनक्लाव को “सुरक्षा के बारे में किसी भी पूर्व विचार के बिना जल्दबाजी में तैयार किया गया” बताया। उन्होंने कहा, ओपनक्लॉ के माध्यम से आर्मिस के ग्राहकों का उल्लंघन किया गया है, लेकिन उन्होंने विवरण नहीं दिया। “निकट भविष्य में, कुछ नियंत्रण होंगे जिन्हें एआई का पूरी तरह से लाभ उठाने के लिए लोगों को छोड़ना होगा।”
इस तरह की और भी कहानियाँ उपलब्ध हैं ब्लूमबर्ग.कॉम
