इंडोनेशिया ने एलोन मस्क के ग्रोक एआई चैटबॉट पर से प्रतिबंध हटा दिया है, इसके कुछ ही हफ्ते बाद देश ने घोषणा की कि वह महिलाओं और बच्चों की कामुक डीपफेक छवियां उत्पन्न करने के बाद एआई टूल तक पहुंच को प्रतिबंधित कर रहा है। इंडोनेशियाई सरकार ने रविवार को एक बयान में कहा कि वह देश में ‘सशर्त और कड़ी निगरानी में’ ग्रोक सेवाओं को सामान्य करने की प्रक्रिया कर रही है।
एक्स द्वारा लिखित प्रतिबद्धता प्रस्तुत करने के बाद प्रतिबंध को वापस लिया गया इंडोनेशियादेश में सेवा सुधार और लागू कानूनी प्रावधानों के अनुपालन के संबंध में संचार और डिजिटल मंत्रालय।
एक आधिकारिक बयान में, मंत्रालय के वरिष्ठ अधिकारी अलेक्जेंडर सबर ने कहा, “एक्स कॉर्प द्वारा सेवा में सुधार और दुरुपयोग की रोकथाम के लिए ठोस कदमों वाली एक लिखित प्रतिबद्धता प्रस्तुत करने के बाद ग्रोक सेवाओं तक पहुंच का सामान्यीकरण सशर्त रूप से किया जा रहा है। यह प्रतिबद्धता मूल्यांकन का आधार है, न कि पर्यवेक्षण प्रक्रिया का अंत।”
उन्होंने यह भी नोट किया कि सभी उपाय किये गये एक्स ‘उल्लंघन को रोकने में उनकी प्रभावशीलता सुनिश्चित करने के लिए’ संचार मंत्रालय द्वारा ‘सत्यापित और लगातार परीक्षण’ किया जाएगा।
मंत्रालय ने नोट किया कि एक्स ने ग्रोक सेवाओं के दुरुपयोग को संबोधित करने के लिए कई ‘स्तरित’ उपाय लागू किए हैं। मंत्रालय ने कहा कि इन उपायों में तकनीकी सुरक्षा को मजबूत करना, कुछ सुविधाओं तक पहुंच को प्रतिबंधित करना, नीतियों और आंतरिक नियम प्रवर्तन को तेज करना और घटना प्रतिक्रिया प्रोटोकॉल को सक्रिय करना शामिल है।
अलेक्जेंडर ने कहा, “हम रचनात्मक बातचीत के लिए खुले हैं, लेकिन इंडोनेशियाई कानून का अनुपालन एक दायित्व है। सेवाओं का सामान्यीकरण अंतिम बिंदु नहीं है, बल्कि निरंतर राज्य पर्यवेक्षण प्रक्रिया का हिस्सा है।”
चैटबॉट के माध्यम से अश्लील सामग्री के निर्माण की आशंका के कारण इंडोनेशिया ने ग्रोक एआई पर प्रतिबंध लगा दिया था। देश में ऐसी सामग्री को सीमित करने का इतिहास रहा है और यहां तक कि निलंबित भी किया गया है टिकटोक 2018 में संक्षेप में।
XAI ने क्या उपाय किये हैं?
एलोन मस्क ने पिछले महीने उपयोगकर्ताओं को ग्रोक के साथ कामुक डीपफेक छवियां बनाने के बारे में चेतावनी दी थी। एक्स पर एक पोस्ट में, अरबपति ने लिखा, “अवैध सामग्री बनाने के लिए ग्रोक का उपयोग करने वाले किसी भी व्यक्ति को उसी तरह के परिणाम भुगतने होंगे जैसे कि वे अवैध सामग्री अपलोड करते हैं।”
इस बीच, एक्स ने शुरुआत में सार्वजनिक छवि निर्माण और संपादन सुविधाओं को केवल प्रीमियम उपयोगकर्ताओं तक ही सीमित रखा था। हालाँकि, जैसे-जैसे प्रतिक्रिया बढ़ती गई, कंपनी ने बिकनी जैसे दिखावटी कपड़ों को दर्शाने वाली छवियां बनाने या संपादित करने की उपयोगकर्ताओं की क्षमता को प्रतिबंधित कर दिया।
हालाँकि, नुकसान प्लेटफ़ॉर्म के लिए हुआ था क्योंकि इसे भारत, यूके, इंडोनेशिया सहित विश्व स्तर पर नियामक जांच का सामना करना पड़ा था मलेशिया. दरअसल, डीपफेक विवाद के कारण मलेशिया में ग्रोक एआई पर प्रतिबंध जारी है।
