एलोन मस्क के बच्चों में से एक की मां एशले सेंट क्लेयर ने कथित तौर पर ग्रोक एआई चैटबॉट का उपयोग करके उनकी स्पष्ट डीपफेक छवियां तैयार करने के लिए अरबपति के एक्सएआई पर मुकदमा दायर किया है। विशेष रूप से, चैटबॉट महिलाओं और कभी-कभी बच्चों की सहमति के बिना उनकी नग्न तस्वीरें बनाने के लिए कुछ दिनों से विवादों में है।
सेंट क्लेयर ने अपने मुकदमे में कहा, “एक्सएआई का उत्पाद ग्रोक, एक जेनरेटिव आर्टिफिशियल इंटेलिजेंस (‘एआई’) चैटबॉट है, जो पीड़ितों को कपड़े उतारने, अपमानित करने और यौन शोषण करने के लिए एआई का उपयोग करता है।”
इसमें कहा गया है, “वह इस डर में रहती है कि उसकी नग्न और यौन तस्वीरें, जिसमें उसकी एक बच्ची भी शामिल है, xAI द्वारा बनाई जाती रहेगी और वह उन लोगों से सुरक्षित नहीं रहेगी जो इन छवियों का उपभोग करते हैं।”
सीएनएन की एक रिपोर्ट के अनुसार, सेंट क्लेयर ने यह भी दावा किया कि चैटबॉट ने उपयोगकर्ताओं के कहने पर उसके लिए “अनगिनत यौन अपमानजनक, अंतरंग और अपमानजनक डीपफेक सामग्री” बनाई और वितरित की।
राजनीतिक टिप्पणीकार कथित तौर पर मुआवजे के साथ जूरी ट्रायल की मांग कर रही है, जिसमें कहा गया है कि उसे भावनात्मक संकट और गोपनीयता की हानि हुई है।
इस बीच, कहा जाता है कि एक्सएआई ने टेक्सास के उत्तरी जिले में सेंट क्लेयर के खिलाफ अपना मामला दायर किया है, जिसमें आरोप लगाया गया है कि उसने विवाद को एक अलग अदालत में लाकर कंपनी के साथ अपने अनुबंध का उल्लंघन किया है, जबकि वॉल स्ट्रीट जर्नल की एक रिपोर्ट के अनुसार, तकनीकी दिग्गज की सेवा की शर्तों में कहा गया है कि दावा टेक्सास अदालत में दायर किया जाना चाहिए।
xAI की ग्रोक समस्याएं:
सेंट क्लेयर का मुकदमा xAI द्वारा यह कहने के तुरंत बाद आया है कि कंपनी X को उपयोगकर्ताओं की छवियों को सार्वजनिक रूप से संपादित करने से रोक रही है। इस बीच, मस्क ने सार्वजनिक रूप से कहा था कि उन्हें “ग्रोक द्वारा बनाई गई किसी भी नग्न कम उम्र की छवियों के बारे में जानकारी नहीं थी” जबकि इस बात पर जोर दिया गया था कि ऐसे उदाहरण “वस्तुतः शून्य” थे।
मस्क ने इन छवियों को बनाने वाले उपयोगकर्ताओं के सिर पर दोष मढ़ने की भी मांग की और सुझाव दिया कि प्लेटफ़ॉर्म को इसके परिणाम नहीं भुगतने चाहिए। इस बीच, ग्रोक द्वारा हाल ही में उत्पन्न की गई स्पष्ट छवियों के कारण चैटबॉट एक्स को भी परेशानी में डाल रहा है और कुछ देशों में एक्स और ग्रोक दोनों पर प्रतिबंध लगाने की बात चल रही है।
इस बीच, इंडोनेशिया और मलेशिया ने नकली अश्लील सामग्री के जोखिम के कारण पहले ही चैटबॉट पर प्रतिबंध लगा दिया है। यूके जैसे अन्य देशों ने धमकी दी है कि यदि xAI आवश्यक रेलिंग का निर्माण नहीं करता है तो चैटबॉट पर प्रतिबंध लगा दिया जाएगा।
भारत सरकार ने ग्रोक द्वारा उत्पन्न की जा रही स्पष्ट छवियों के संबंध में xAI से प्रतिक्रिया भी मांगी थी।
गौरतलब है कि यह पहली बार नहीं है कि ग्रोक किसी विवाद में हैं। इस साल की शुरुआत में, चैटबॉट ने यहूदी विरोधी भावना भी फैलाना शुरू कर दिया था और यहां तक कि एडॉल्फ हिटलर की भी प्रशंसा की थी।
