4 मिनट पढ़ेंनई दिल्लीअपडेट किया गया: अप्रैल 29, 2026 02:51 अपराह्न IST
एआई एजेंट परिष्कृत एआई सिस्टम हैं जिन्हें स्वायत्त रूप से संचालन करने का काम सौंपा गया है, लेकिन उस स्वायत्तता के लिए एक लागत भी आ सकती है। कथित तौर पर, एंथ्रोपिक के प्रमुख क्लाउड मॉडल द्वारा संचालित एक एआई एजेंट ने एक कंपनी से संबंधित संपूर्ण उत्पादन डेटाबेस को हटा दिया है। अराजकता और भ्रम की स्थिति पैदा हो गई क्योंकि कंपनी के ग्राहक अपने प्रमुख डेटा तक पहुंचने में असमर्थ थे।
जिस कंपनी को एक दुष्ट एआई एजेंट के कारण भारी नुकसान का सामना करना पड़ा, वह पॉकेटओएस है, जो टेक्सास स्थित कार रेंटल व्यवसाय है। यह घटना कथित तौर पर सप्ताहांत में हुई जब इसके स्वायत्त एआई टूल ने डेटाबेस और सभी बैकअप को नौ सेकंड में मिटा दिया। कंपनी कर्सर नाम के एक कोडिंग एजेंट का उपयोग कर रही थी जो क्लाउड ओपस 4.6 पर चल रहा था, जिसे कोडिंग के लिए सबसे उन्नत और सक्षम मॉडल के रूप में जाना जाता है।
घटना के बाद, पॉकेटओएस के संस्थापक जेर क्रेन ने इसे आधुनिक एआई बुनियादी ढांचे के साथ प्रणालीगत विफलताओं के लिए जिम्मेदार ठहराया। उन्होंने दावा किया कि बुनियादी ढांचे ने इसे न केवल संभव बनाया बल्कि अपरिहार्य भी बनाया। क्रेन ने एक्स (पूर्व में ट्विटर) पर अपने पोस्ट में कहा कि एजेंट एक नियमित कार्य पर काम कर रहा था, जब अचानक, उसने डेटाबेस को हटाकर एक छोटी सी समस्या को ठीक करने के लिए ‘पूरी तरह से अपनी पहल पर’ फैसला किया। संस्थापक ने खुलासा किया कि इतने बड़े निर्णय के लिए एआई एजेंट द्वारा कोई पूर्व पुष्टि नहीं मांगी गई थी। नतीजतन, जब एजेंट से उसके कार्यों के पीछे का कारण पूछा गया, तो उसने कथित तौर पर अपने आचरण के लिए माफी मांगी।
घटना के बाद, क्रेन ने मुद्दे को स्पष्ट करने के लिए अपने एक्स अकाउंट का सहारा लिया। अपने पोस्ट में, संस्थापक ने कहा, “जब एजेंट से खुद को समझाने के लिए कहा गया, तो उसने एक लिखित बयान पेश किया जिसमें बताया गया कि उसने किन विशिष्ट सुरक्षा नियमों का उल्लंघन किया है।”
कंपनी किराये के व्यवसायों के लिए सॉफ्टवेयर प्रदान करती है जो उन्हें बुकिंग और भुगतान से लेकर ग्राहक डेटा तक सब कुछ प्रबंधित करने में मदद करती है। कथित तौर पर, इसके कई ग्राहकों के लिए यह प्लेटफ़ॉर्म उनके दैनिक कार्यों की कुंजी है। डेटा की इस अचानक हानि का मतलब था कि ये व्यवसाय हाल के आरक्षण या ग्राहक रिकॉर्ड तक पहुंचने में असमर्थ थे।
एक्स पर अपनी पोस्ट के आधार पर, क्रेडेंशियल बेमेल का सामना करने के बाद एजेंट ने स्वयं कार्रवाई की थी। कथित तौर पर इसने सिस्टम में कहीं और संग्रहीत एपीआई टोकन का पता लगाया और इसे हटाने के आदेश को निष्पादित करने के लिए इसका उपयोग किया। कोई पुष्टिकरण संकेत नहीं थे, उत्पादन डेटा के बारे में कोई चेतावनी नहीं थी, और कोई प्रतिबंध नहीं था जो टोकन क्या कर सकता था उसे सीमित कर रहा था। मामला असाधारण है, क्योंकि घटना के बाद एआई एजेंट ने अपनी विफलता बताई। एजेंट ने एक लिखित जवाब दिया जिसमें उसने स्वीकार किया कि उसने प्रमुख सुरक्षा नियमों का उल्लंघन किया है। इसके अलावा, एजेंट ने यह भी स्वीकार किया कि उसने ‘सत्यापन करने के बजाय अनुमान लगाया’ और बिना अनुमति के कार्रवाई को अंजाम दिया। इसने कहा कि वह कार्रवाई से पहले सिस्टम को पूरी तरह से समझने में विफल रहा।
यह विशेष घटना एक व्यापक मुद्दे पर प्रकाश डालती है कि एआई उपकरण पर्याप्त सुरक्षा नियंत्रण के बिना उत्पादन वातावरण में एकीकृत किए जा रहे हैं। अपने पोस्ट में, क्रेन ने चेतावनी दी कि सिस्टम संकेतों और दिशानिर्देशों पर भरोसा करना पर्याप्त नहीं है। “सिस्टम संकेत सलाहकारी हैं, लागू करने वाले नहीं,” उन्होंने इस बात पर जोर देते हुए कहा कि वास्तविक सुरक्षा उपायों को एपीआई और बुनियादी ढांचे में बनाया जाना चाहिए।
इस विज्ञापन के नीचे कहानी जारी है
अब तक, PocketOS ने आंशिक बैकअप बहाल कर दिया है, लेकिन महत्वपूर्ण डेटा अंतराल बना हुआ है। क्रेन ने साझा किया कि अनुभव सख्त नियंत्रण, बेहतर बैकअप प्रथाओं और स्पष्ट जवाबदेही की आवश्यकता पर प्रकाश डालता है क्योंकि एआई उपकरण महत्वपूर्ण प्रणालियों में गहराई से एकीकृत हो जाते हैं।
© IE ऑनलाइन मीडिया सर्विसेज प्राइवेट लिमिटेड