एलोन मस्क ने चेतावनी दी, ‘हम मजाक नहीं कर रहे हैं, ग्रोक को अवैध सामग्री बनाने के लिए प्रेरित करने वाले किसी भी व्यक्ति को परिणाम भुगतना होगा’

एलोन मस्क ने एक वायरल ट्रेंड के बाद एक्स के आर्टिफिशियल इंटेलिजेंस टूल ग्रोक का दुरुपयोग करने वाले उपयोगकर्ताओं को कड़ी चेतावनी जारी की है, जिसमें उपयोगकर्ताओं ने एआई को उपयोगकर्ताओं की तस्वीरों को यौन रूप से स्पष्ट छवियों में बदलने के लिए प्रेरित किया है, जो अक्सर उन्हें बिकनी में चित्रित करते हैं।

शनिवार को, मस्क ने एक्स के आधिकारिक सुरक्षा खाते से एक पोस्ट को रीट्वीट किया, जिसमें एक संक्षिप्त लेकिन स्पष्ट संदेश जोड़ा गया: “हम मजाक नहीं कर रहे हैं।” इस विवाद ने व्यापक आक्रोश और नियामक जांच को जन्म दिया है। भारत में, अधिकारियों ने प्लेटफ़ॉर्म पर एआई-संचालित दुरुपयोग को रोकने में विफल रहने का आरोप लगाया है।

एक्स ने अवैध सामग्री पर सख्त कार्रवाई की चेतावनी दी है

सुरक्षा खाता पोस्ट अवैध सामग्री, विशेष रूप से बाल यौन शोषण सामग्री (सीएसएएम) पर कंपनी के रुख को रेखांकित किया, और ग्रोक के दुरुपयोग की चेतावनी दी।

पोस्ट में कहा गया है, “हम बाल यौन शोषण सामग्री (सीएसएएम) सहित एक्स पर अवैध सामग्री के खिलाफ कार्रवाई करते हैं, इसे हटाते हैं, खातों को स्थायी रूप से निलंबित करते हैं, और आवश्यकतानुसार स्थानीय सरकारों और कानून प्रवर्तन के साथ काम करते हैं।”

मस्क ने शनिवार को भी ट्वीट किया, “कोई भी इसका उपयोग कर रहा है या संकेत दे रहा है ग्रोक अवैध सामग्री बनाने पर वही परिणाम भुगतने होंगे जो अवैध सामग्री अपलोड करने पर भुगतने पड़ते हैं।”

बयान में उपयोगकर्ताओं को प्लेटफ़ॉर्म नियमों और प्रवर्तन उपायों की विस्तृत व्याख्या के लिए एक्स के सहायता पृष्ठों पर जाने का निर्देश दिया गया।

ग्रोक-जनित स्पष्ट छवियों पर बढ़ती चिंता

छवियों में हेरफेर करने के लिए ग्रोक का उपयोग कैसे किया गया है, इस पर बढ़ती चिंता के बीच यह चेतावनी आई है कामुक सामग्री. उपयोगकर्ताओं ने कथित तौर पर बिकनी पहने चित्रण सहित महिलाओं और नाबालिगों की सिंथेटिक छवियां बनाने के लिए टूल का शोषण किया है, जिन्हें बाद में सहमति के बिना व्यापक रूप से साझा किया गया था।

भारत सरकार तत्काल कार्रवाई की मांग करती है

भारत के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय या MeitY ने शुक्रवार को कड़ा रुख अपनाते हुए एक्स को नोटिस जारी किया और 72 घंटों के भीतर कार्रवाई रिपोर्ट मांगी।

मंत्रालय ने “ग्रोक’ और एक्सएआई की अन्य सेवाओं जैसी एआई-आधारित सेवाओं के दुरुपयोग के माध्यम से अश्लील, नग्न, अश्लील और यौन रूप से स्पष्ट सामग्री की मेजबानी, निर्माण और अपलोडिंग को रोकने के लिए तत्काल अनुपालन का आह्वान किया।

अपने नोटिस में, MeitY ने अन्य लागू कानूनों के साथ-साथ सूचना प्रौद्योगिकी अधिनियम, 2000 के तहत एक्स की “वैधानिक उचित परिश्रम दायित्वों का पालन करने में विफलता” का हवाला दिया।

सुरक्षा उपायों और अनुपालन पर प्रश्न

सरकार ने एक्स को ग्रोक एप्लिकेशन के लिए अपनाए गए या प्रस्तावित तकनीकी और संगठनात्मक उपायों की रूपरेखा बताते हुए एक विस्तृत रिपोर्ट प्रस्तुत करने के लिए कहा है। इसने भूमिका पर भी स्पष्टता मांगी है निरीक्षण किया गया मंच के मुख्य अनुपालन अधिकारी द्वारा।

उठाए गए अन्य बिंदुओं में आपत्तिजनक सामग्री, उपयोगकर्ताओं और खातों के खिलाफ की गई कार्रवाई और भारतीय नागरिक सुरक्षा संहिता की धारा 33 के तहत अनिवार्य रिपोर्टिंग आवश्यकताओं का अनुपालन सुनिश्चित करने के लिए तंत्र शामिल हैं।

अधिकारियों ने नोट किया कि समस्या नकली या गुमनाम खातों से भी आगे तक फैली हुई है। मंत्रालय के मुताबिक, जो महिलाएं अपनी तस्वीरें या वीडियो पोस्ट करती हैं, उन्हें एआई प्रॉम्प्ट्स, इमेज हेरफेर और सिंथेटिक आउटपुट के जरिए भी निशाना बनाया जा रहा है।

यदि एक्स कार्य करने में विफल रहता है तो कानूनी परिणाम

मंत्रालय ने यह भी चेतावनी दी कि यदि एक्स अपने दायित्वों का पालन नहीं करता है तो महत्वपूर्ण कानूनी परिणाम होंगे।

पत्र में कहा गया है, “इस तरह के उचित परिश्रम दायित्वों का पालन करने में विफलता के परिणामस्वरूप आईटी अधिनियम की धारा 79 के तहत देयता से छूट का नुकसान होगा, और आप आईटी अधिनियम और बीएनएस सहित किसी भी कानून के तहत प्रदान की गई परिणामी कार्रवाई के लिए भी उत्तरदायी होंगे।”