इंस्टाग्राम विज्ञापन जांच के बाद बाल शोषण से लड़ने के लिए मेटा ने एआई-संचालित उपायों का विवरण दिया | प्रौद्योगिकी समाचार

सोशल मीडिया दिग्गज ने कहा कि उसके एआई सिस्टम सक्रिय रूप से बाल शोषण से जुड़ी सामग्री की पहचान करते हैं, जिसमें ज्ञात सीएसएएम, सौंदर्य व्यवहार और संदिग्ध खाते शामिल हैं। कंपनी ने कहा कि वह पहले से पहचानी गई अपमानजनक छवियों और वीडियो का पता लगाने के लिए हैश-मैचिंग तकनीक का भी उपयोग करती है, जबकि मशीन लर्निंग टूल समीक्षा के लिए नई या पहले से अनदेखी सामग्री को चिह्नित करने में मदद करते हैं।

इसके अलावा, कंपनी ने खुलासा किया कि उसने 2026 की पहली छमाही में वैश्विक स्तर पर बाल शोषण से जुड़े लगभग 4 मिलियन खाते और 36 मिलियन सामग्री को हटा दिया। अकेले भारत में, मेटा ने कहा कि उसने इसी अवधि के दौरान अपनी बाल सुरक्षा नीतियों का उल्लंघन करने के लिए लगभग 1.6 लाख खातों को अक्षम कर दिया।

मेटा ने दुरुपयोग को बढ़ावा देने वाले नेटवर्क को बाधित करने के उद्देश्य से अपने उपायों पर भी प्रकाश डाला। इनमें यौन उद्देश्यों के लिए नाबालिगों से संपर्क करने का प्रयास करने वाले खातों को हटाना, उद्योग कार्यक्रमों के माध्यम से अन्य प्रौद्योगिकी कंपनियों के साथ आपत्तिजनक खातों के बारे में संकेत साझा करना और प्रासंगिक मामलों की रिपोर्ट अमेरिका स्थित नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन (एनसीएमईसी) को करना शामिल है, जो दुनिया भर में कानून प्रवर्तन एजेंसियों के साथ समन्वय करता है।

मेटा के अनुसार, विज्ञापनों की समीक्षा स्वचालित प्रणालियों का उपयोग करके की जाती है, स्वीकृत होने से पहले कुछ की समीक्षा मानव समीक्षकों द्वारा भी की जाती है। मेटा ने कहा कि उसके विज्ञापन समीक्षा सिस्टम को नीति उल्लंघनों का पता लगाने के लिए डिज़ाइन किया गया है, जिसमें बाल यौन शोषण को बढ़ावा देने या उससे लाभ कमाने के प्रयास भी शामिल हैं। कंपनी ने जोर देकर कहा कि वह इन प्रणालियों को मजबूत करना जारी रखेगी क्योंकि बुरे कलाकार अपनी रणनीति विकसित कर रहे हैं।

कंपनी ने कहा, “हम बुरे कलाकारों को अपने प्लेटफॉर्म से दूर रखने के लिए प्रतिबद्ध हैं और उनसे आगे रहने के लिए अपने सिस्टम को लगातार विकसित कर रहे हैं। हमारे प्लेटफॉर्म का उपयोग करने वाले लोगों की सुरक्षा इस बात के केंद्र में है कि हम अपने विज्ञापन मानकों को कैसे बनाते हैं और लागू करते हैं।”

मेटा की ओर से यह पोस्ट भारत में इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (एमईआईटीवाई) द्वारा कथित तौर पर सीएसएएम को बढ़ावा देने वाले इंस्टाग्राम विज्ञापनों पर मेटा को नोटिस जारी करने के बाद बढ़ी जांच के बीच आई है। सरकार ने कंपनी को ऐसी सामग्री को तुरंत हटाने और यह बताने का निर्देश दिया कि विज्ञापनों को प्लेटफ़ॉर्म पर प्रदर्शित होने की अनुमति कैसे दी गई।

मेटा ने कहा कि यह बाल शोषण के प्रति शून्य-सहिष्णुता का दृष्टिकोण रखता है और पहचान और प्रवर्तन को बढ़ाने के लिए सरकारों, बाल सुरक्षा विशेषज्ञों और अन्य प्रौद्योगिकी कंपनियों के साथ काम करता है। कंपनी ने कहा कि अपराधी लगातार अपनी रणनीति बदल रहे हैं, जिससे उसके प्लेटफॉर्म को सुरक्षित रखने के लिए एआई सिस्टम, सुरक्षा प्रौद्योगिकियों और क्रॉस-इंडस्ट्री सहयोग में निरंतर निवेश आवश्यक हो गया है।

“हम युवाओं को सुरक्षित रखने, अपनी विज्ञापन समीक्षा प्रक्रियाओं को मजबूत करने और अपराधियों को जवाबदेह ठहराने के लिए कानून प्रवर्तन के साथ काम करने के लिए आवश्यक हर संसाधन में निवेश करना जारी रखेंगे।”