अमेरिकी सीनेटरों के एक समूह ने अब चैटबॉट के “महिलाओं और बच्चों की गैर-सहमति वाली यौन छवियों की बड़े पैमाने पर पीढ़ी” को लेकर ऐप्पल और Google से अपने ऐप स्टोर से एक्स और ग्रोक ऐप को हटाने के लिए कहा है। चैटबॉट, जो एक्स अनुभव में गहराई से शामिल है, विवादों में घिर गया है क्योंकि इसकी छवि संपादन क्षमताओं का उपयोग उपयोगकर्ताओं द्वारा महिलाओं और बच्चों के कपड़े डिजिटल रूप से हटाने के लिए किया गया था।
ग्रोक की गैर-सहमति वाली छवि निर्माण पर बढ़ती आलोचना के बाद, चैटबॉट ने इस सप्ताह की शुरुआत में दावा किया कि इसकी छवि संपादन सुविधा को भुगतान करने वाले उपयोगकर्ताओं तक ही सीमित रखा जा रहा है। हालाँकि, कंपनी ने अभी तक यह स्पष्ट नहीं किया है कि वास्तव में ऐसा है या नहीं।
किसी भी घटना में, तीन अमेरिकी सीनेटर, रॉन विडेन, एड मार्के और बेन रे लुजान, अब चाहते हैं टिम कुक और सुन्दर पिचाई कदम बढ़ाने और अस्थायी रूप से हटाने के लिए ग्रोक और उनके ऐप स्टोर से एक्स ऐप्स। सीनेटरों ने ग्रोक की छवि निर्माण को “दुखद” करार दिया और कहा कि स्टोर्स को इन ऐप्स को अपने प्लेटफॉर्म से तब तक दूर रखना चाहिए जब तक कि एक्स की नीति के उल्लंघन का समाधान नहीं हो जाता।
सीनेटरों ने अपने खुले पत्र में कहा, “हम यह अनुरोध करते हुए लिखते हैं कि आप महिलाओं और बच्चों की गैर-सहमति वाली यौन छवियों के बड़े पैमाने पर निर्माण के लिए एक्स कॉर्प के एक्स और ग्रोक ऐप्स के खिलाफ अपने ऐप स्टोर की सेवा की शर्तों को लागू करें। महिलाओं और बच्चों के इन हानिकारक और संभावित अवैध चित्रणों की एक्स की पीढ़ी ने आपके स्टोर की वितरण शर्तों के प्रति पूरी तरह से उपेक्षा दिखाई है।”
सीनेटरों ने यह भी दावा किया कि एक्स ने इस व्यवहार को “प्रोत्साहित” किया है, आरोप लगाया कि सीईओ मस्क ने हंसी-रोने वाले इमोजी प्रतिक्रियाओं के साथ परेशान करने वाली प्रवृत्ति को स्वीकार किया। उन्होंने आगे कहा कि शोधकर्ताओं ने हाल ही में एक ग्रोक ऐप संग्रह की खोज की है जिसमें कहा गया है कि अगस्त के बाद से चैटबॉट द्वारा उत्पन्न संभावित बाल यौन शोषण सामग्री की लगभग 100 छवियां शामिल हैं।
सीनेटरों ने लिखा, “एक्स के ज्ञान के बारे में कोई गलती नहीं हो सकती है, और इन रुझानों के प्रति सबसे अच्छी प्रतिक्रिया में लापरवाही हो सकती है।”
“एक्स के घिनौने व्यवहार पर आंखें मूंद लेने से आपकी मॉडरेशन प्रथाओं का मजाक बन जाएगा। वास्तव में, कार्रवाई नहीं करने से सार्वजनिक और अदालत में आपके दावे कमजोर हो जाएंगे कि आपके ऐप स्टोर उपयोगकर्ताओं को सीधे उनके फोन पर ऐप डाउनलोड करने की तुलना में अधिक सुरक्षित उपयोगकर्ता अनुभव प्रदान करते हैं। यह सिद्धांत ऐप स्टोर प्रतिस्पर्धा को बढ़ाने के लिए विधायी सुधारों के खिलाफ आपकी वकालत और आपके ऐप स्टोर अपने भुगतान प्रणालियों के माध्यम से अपनी बाजार शक्ति का दुरुपयोग करने के दावों के प्रति आपके बचाव का मूल रहा है,” उन्होंने आगे कहा।
बढ़ती आलोचना के बीच, कस्तूरी पिछले सप्ताह कहा गया था कि ग्रोक का उपयोग करके अवैध सामग्री उत्पन्न करने वाले उपयोगकर्ताओं को कानूनी परिणाम भुगतने होंगे।