मेटा एआई छवि डिटेक्टर अपनी स्वयं की कुछ क्रॉप की गई एआई छवियों की पहचान करने में विफल रहता है: रिपोर्ट | प्रौद्योगिकी समाचार

अपनी वेबसाइट पर, मेटा का कहना है कि प्रीव्यू डिटेक्शन टूल कंटेंट सील नामक एक अदृश्य वॉटरमार्किंग सिस्टम के माध्यम से अपनी स्वयं की एआई-जनरेटेड छवियों की पहचान कर सकता है, भले ही वे क्रॉप की गई हों, जो कि म्यूज़ इमेज द्वारा उत्पन्न प्रत्येक छवि में एम्बेडेड है और उपयोगकर्ताओं को यह सत्यापित करने में मदद करने के लिए डिज़ाइन किया गया है कि क्या यह मेटा के एआई मॉडल द्वारा बनाई गई थी। डिटेक्शन टूल के रॉयटर्स विश्लेषण के परिणामों के बारे में पूछे जाने पर, मेटा ने कहा कि टूल एक पूर्वावलोकन था।

कंपनी ने कहा कि वॉटरमार्क को सामान्य संपादन के बाद बरकरार रहने के लिए डिज़ाइन किया गया है, लेकिन अगर किसी छवि को भारी रूप से काटा जाता है तो सिग्नल खो सकता है। प्रतिद्वंद्वी तकनीकी कंपनियों Google और OpenAI ने आगाह किया है कि उनके स्वयं के डिटेक्शन टूल छवि-परिवर्तन तकनीकों के विरुद्ध अचूक नहीं हैं।

मार्च में, मेटा के ओवरसाइट बोर्ड, विशेषज्ञों का एक निकाय जो कंपनी के सोशल मीडिया प्लेटफार्मों पर सामग्री के मुद्दों पर बाध्यकारी निर्णय लेता है और सिफारिशें जारी करता है, ने कंपनी से अपने प्लेटफार्मों पर “भ्रामक एआई-जनित सामग्री के प्रसार” को संबोधित करने के लिए और अधिक प्रयास करने और मजबूत पहचान उपकरणों में निवेश करने का आह्वान किया।

बफ़ेलो में स्टेट यूनिवर्सिटी ऑफ़ न्यूयॉर्क में कंप्यूटर विज्ञान के प्रोफेसर सिवेई ल्यू, जो एआई इमेज फोरेंसिक पर शोध करते हैं, ने कहा कि उन्होंने मेटा के टूल का मूल्यांकन नहीं किया है, लेकिन वॉटरमार्क-आधारित सिस्टम की सीमाएँ हैं।

“वॉटरमार्क बरकरार रहने पर वॉटरमार्क-आधारित विधियां अत्यधिक प्रभावी हो सकती हैं, लेकिन कोई भी संशोधन जो एम्बेडेड सिग्नल को हटाता है या कमजोर करता है – जैसे कि क्रॉप करना, आकार बदलना, भारी संपीड़न, या संपादन – वॉटरमार्क कैसे डिज़ाइन किया गया है उसके आधार पर उनकी प्रभावशीलता कम हो सकती है,” ल्यू ने कहा।

सारा बैरिंगटन, एआई शोधकर्ता और पीएच.डी. यूसी बर्कले स्कूल ऑफ इंफॉर्मेशन के उम्मीदवार ने कहा कि वॉटरमार्किंग एआई-जनित सामग्री के भविष्य के लिए वादा करता है, लेकिन केवल इतना ही कर सकता है।

उन्होंने कहा, “कई निवारक साइबर सुरक्षा या भौतिक सुरक्षा उपायों की तरह, यह पूरी तरह से निर्विवाद नहीं हो सकता है, लेकिन अगर हम केवल 90% मामलों को पकड़ते हैं, तो भी यह 0 से एक बड़ी छलांग है।”