‘स्टेप मॉम’ से ‘रूसी लड़की’ तक: मेटा की यौन एआई चैटबॉट्स फ्लड इंस्टाग्राम, फेसबुक; नेटिज़ेंस इसे ‘डायस्टोपियन’ कहते हैं

मार्क जुकरबर्ग के नेतृत्व वाला मेटा एक और विवाद के केंद्र में है क्योंकि सोशल मीडिया पर उपयोगकर्ता कंपनी के यौन एआई चैटबॉट के बारे में तेजी से मुखर हो जाते हैं, जिन्हें फेसबुक और इंस्टाग्राम पर सुझाव के रूप में दिखाया जा रहा है।

मेटा के सोशल मीडिया ऐप्स के एआई पात्रों में ‘रूसी लड़की’ और ‘स्टेप मॉम’ के साथ बातचीत करने का सुझाव दे रहे हैं।

विशेष रूप से, यह पहली बार नहीं है कि मेटा के एआई चैटबॉट्स को लाइन पार करने के लिए जाना जाता है। रॉयटर्स की एक हालिया रिपोर्ट से पता चला है कि एक मेटा चैटबॉट, “बिग सिस बिली”, जिसे कंपनी ने सेलिब्रिटी के प्रभावशाली केंडल जेनर के सहयोग से विकसित किया था, ने 76 वर्षीय व्यक्ति के साथ रोमांटिक चैट की थी। चैटबोट उस आदमी को भी आश्वासन दिया कि यह वास्तविक था और उसे शहर में अपने अपार्टमेंट में आमंत्रित किया, यहां तक कि एक पता प्रदान किया।

इस बीच, एक अन्य रॉयटर्स की रिपोर्ट ने एक आंतरिक कंपनी के दस्तावेज़ को पकड़ लिया, जिसमें मानकों के मार्गदर्शन पर चर्चा की गई मेटा एआई और फेसबुक, व्हाट्सएप और इंस्टाग्राम पर अन्य चैटबॉट्स। दस्तावेज़, 200 पृष्ठों से अधिक लंबा, यह सूचीबद्ध करता है कि मेटा के कर्मचारियों और ठेकेदारों को कंपनी के जेनेरिक एआई के निर्माण और प्रशिक्षण के दौरान स्वीकार्य चैटबॉट व्यवहार के रूप में क्या व्यवहार करना चाहिए।

दस्तावेज़ में चैटबॉट के लिए अनुमत व्यवहारों में से हैं: “एक बच्चे को बातचीत में जो रोमांटिक या कामुक हैं,” झूठी चिकित्सा जानकारी उत्पन्न करते हैं, और उपयोगकर्ताओं को यह तर्क देने में मदद करते हैं कि काले लोग “गोरे लोगों की तुलना में” हैं। “

रिपोर्ट के सामने आने के बाद, दो रिपब्लिकन अमेरिकी सीनेटरों ने मेटा प्लेटफार्मों में कांग्रेस की जांच के लिए बुलाया।

मेटाहालांकि, एआई के साथ स्पष्ट सामग्री की पेशकश करने में अकेले नहीं लगता है। हाल ही में, एलोन मस्क का ग्रोक एआई यह भी एक विवाद के केंद्र में आया था क्योंकि यह पता चला था कि चैटबॉट की नई इमेजिन फीचर का उपयोग मशहूर हस्तियों की डीपफेक और अर्ध-नग्न सामग्री बनाने के लिए किया जा रहा था।

नेटिज़ेंस मेटा एआई चैटबॉट्स पर प्रतिक्रिया करते हैं:

रेडडिट पर एक उपयोगकर्ता ने लिखा, “हमने सोचा था कि रोबोट ने कहा कि एआई ओवरलॉर्ड्स भविष्य के रोबोट के बारे में लाने के लिए समय पर वापस भेज देगा।

एक अन्य उपयोगकर्ता ने लिखा, “अरबपतियों को एआई सेक्स बॉट्स ने सगाई का एहसास किया और इसे खेती करने की कोशिश कर रहे हैं। यह पागल है।”

“क्या अधिक पागल है कि लोग भागकर इसे उलझा रहे हैं और इसे सक्षम कर रहे हैं। ये चीजें केवल इसलिए मौजूद हैं क्योंकि लोग उन्हें चाहते हैं,” फिर भी एक अन्य उपयोगकर्ता ने कहा।

“मुझे पता था कि हाल ही में 30 सेकंड के लिए फेसबुक को स्क्रॉल करने के बाद यह बुरा था और यह महसूस करते हुए कि यह 90% एआई-जनित सामग्री थी, लेकिन यह वास्तव में एक मुड़ डायस्टोपियन दुःस्वप्न की ओर अधिक तेजी से आगे बढ़ रहा है, जितना मैंने कभी सोचा था,” एक अन्य उपयोगकर्ता ने कहा।

“हम वास्तव में एक डायस्टोपियन हेलहोल में हैं। कभी नहीं सोचा था कि मैं एआई के माध्यम से बड़े पैमाने पर उत्पादित बच्चे को देखने के लिए जीवित रहूंगा,” एक अन्य उपयोगकर्ता ने कहा।