मेटा एआई एजेंट दुष्ट हो गया, बड़े आंतरिक सुरक्षा उल्लंघन में संवेदनशील कंपनी और उपयोगकर्ता डेटा लीक कर दिया: रिपोर्ट

टेकक्रंच द्वारा उद्धृत द इंफॉर्मेशन की एक रिपोर्ट के अनुसार, एक मेटा एआई एजेंट टेक दिग्गज के अंदर घुस गया और संवेदनशील कंपनी और उपयोगकर्ता डेटा को उन कर्मचारियों को उजागर कर दिया, जिनके पास इसे एक्सेस करने की अनुमति नहीं थी। कथित तौर पर, यह घटना तब हुई जब एक मेटा कर्मचारी ने एक आंतरिक मंच पर एक तकनीकी प्रश्न के लिए मदद मांगने के लिए पोस्ट किया, जो कंपनी के अंदर एक मानक अभ्यास है।

हालाँकि, कहा जाता है कि एक अन्य इंजीनियर ने प्रश्न का विश्लेषण करने में मदद करने के लिए एक एआई एजेंट को बुलाया और इंजीनियर से इसे साझा करने की अनुमति मांगे बिना एक प्रतिक्रिया पोस्ट की।

गौरतलब है कि एआई एजेंट ऐसा कहा जाता है कि उसने अच्छी सलाह नहीं दी थी और सवाल पूछने वाले कर्मचारी ने कथित तौर पर एजेंट के मार्गदर्शन के आधार पर कार्रवाई की, जिसके कारण उसने अनजाने में भारी मात्रा में कंपनी और उपयोगकर्ता से संबंधित डेटा इंजीनियरों को उपलब्ध करा दिया, जिन्हें दो घंटे तक इसे देखने की अनुमति नहीं थी।

मेटा कथित तौर पर द इन्फ़र्मेशन से घटना की वैधता की पुष्टि की गई। ऐसा कहा जाता है कि कंपनी ने इस घटना को “सेव 1” रेटिंग दी है, जो सुरक्षा मुद्दों को मापने के लिए तकनीकी दिग्गज की आंतरिक प्रणाली में गंभीरता का दूसरा उच्चतम स्तर है।

विशेष रूप से, किसी मेटा कर्मचारी द्वारा दुष्ट एआई एजेंटों के साथ समस्याओं का सामना करने का यह पहला मामला नहीं है। पिछले महीने, मेटा के एआई सुरक्षा और संरेखण के प्रमुख, समर यू ने एक्स पर एक पोस्ट में खुलासा किया था कि कैसे उसने अपने जीमेल इनबॉक्स को ओपनक्लॉ के एक स्वायत्त एजेंट के साथ जोड़ा था, जो दुष्ट हो गया था और कोई भी कार्रवाई करने से पहले पुष्टि करने के उसके स्पष्ट निर्देशों के बावजूद उसके इनबॉक्स को बड़े पैमाने पर हटाना शुरू कर दिया था।

यू ने एक्स पर एक पोस्ट में खुलासा किया था, “मैं इसे अपने फोन से रोक नहीं सका। मुझे अपने मैक मिनी की ओर भागना पड़ा जैसे कि मैं एक बम को डिफ्यूज कर रहा हूं।”

मेटा का AI दांव:

इस बीच, ऐसा प्रतीत होता है कि मेटा को एजेंटिक एआई सिस्टम में उच्च विश्वास है क्योंकि टेक दिग्गज ने पिछले हफ्ते ही पहला एआई-ओनली सोशल मीडिया प्लेटफॉर्म मोल्टबुक खरीदा है, जबकि इसके सह-संस्थापक मैट श्लिच और बेन पार्र को इसके मेटा सुपरइंटेलिजेंस लैब्स (एमएसएल) पहल में शामिल किया है।

कंपनी द्वारा एमएसएल पहल पिछले साल कृत्रिम बुद्धिमत्ता स्टार्टअप स्केल एआई में 49% हिस्सेदारी हासिल करने के लिए 14.3 बिलियन डॉलर के निवेश के बाद हुई थी। तब से, कंपनी ने ‘सुपरइंटेलिजेंस’ एआई सिस्टम तक पहुंचने के लिए ओपनएआई, गूगल और एंथ्रोपिक जैसे प्रतिद्वंद्वियों के साथ प्रतिस्पर्धा करने के लिए आंतरिक रूप से कई बदलाव किए हैं।

के अलावा स्केल एआई और मोल्टबुकमेटा ने पिछले साल ही कई अन्य AI दांव भी लगाए हैं, जिनमें AI एजेंट स्टार्टअप की खरीद भी शामिल है मानुस ए.आई पिछले साल दिसंबर में और उसी महीने में एआई वियरेबल स्टार्टअप लिमिटलेस।