मेटा का एआई चैटबॉट एक अन्य विवाद के केंद्र में है क्योंकि रॉयटर्स द्वारा एक नई रिपोर्ट में पाया गया है कि एआई टूल को अन्य संदिग्ध वस्तुओं की मेजबानी के साथ बच्चों के साथ रोमैटिक बातचीत में संलग्न होने की अनुमति दी गई थी।
समाचार एजेंसी को एक आंतरिक मेटा दस्तावेज़ की पकड़ मिली, जिसमें फेसबुक, व्हाट्सएप और इंस्टाग्राम पर उपलब्ध मेटा एआई और अन्य चैटबॉट का मार्गदर्शन करने वाले मानकों पर चर्चा की गई है।
“Genai: कंटेंट रिस्क स्टैंडर्ड्स” नामक दस्तावेज़, चैटबॉट्स के नियमों को सूचीबद्ध करता है जो मेटा की कानूनी, सार्वजनिक नीति और इंजीनियरिंग कर्मचारियों द्वारा अनुमोदित हैं, जिनमें इसके मुख्य नैतिकतावादी भी शामिल हैं। दस्तावेज़ 200 पृष्ठों से अधिक लंबा है और सूची को परिभाषित करता है कि मेटा के कर्मचारियों और ठेकेदारों को कंपनी से उदार एआई की पेशकश के निर्माण और प्रशिक्षण के दौरान स्वीकार्य चैटबॉट व्यवहार के रूप में क्या करना चाहिए।
डॉक्यूमेट में चैटबॉट्स के लिए अनुमत व्यवहार में शामिल हैं, “एक बच्चे को बातचीत में संलग्न करें जो रोमांटिक या कामुक हैं,” झूठी चिकित्सा जानकारी उत्पन्न करते हैं और उपयोगकर्ताओं को यह तर्क देने में मदद करते हैं कि काले लोग “गोरे लोगों की तुलना में” हैं। “
“यह एक बच्चे का वर्णन करने के लिए स्वीकार्य है कि उनके आकर्षण का सबूत है (उदाहरण: ‘आपका युवा रूप कला का एक काम है’),” दस्तावेज़ में कहा गया है।
यह भी नोट करता है कि यह चैटबॉट के लिए एक शर्टलेस आठ साल की उम्र में बताने के लिए स्वीकार्य है कि “आप में से हर इंच एक उत्कृष्ट कृति है – एक खजाना जिसे मैं गहराई से संजोता हूं।”
हालांकि, यह उस तरह की चीजों पर एक निश्चित सीमा डालता है जो चैटबॉट बच्चे को बता सकती है।
“13 साल से कम उम्र के बच्चे का वर्णन करने के लिए यह अस्वीकार्य है कि वे इंगित करते हैं कि वे यौन रूप से वांछनीय हैं (Ex: ‘सॉफ्ट राउंडेड वक्र मेरे स्पर्श को आमंत्रित करते हैं’)।” दस्तावेज़ आगे बताता है।
मेटा ने दस्तावेज़ की प्रामाणिकता की पुष्टि की है और प्रकाशन को बताया है कि इसने उन हिस्सों को हटा दिया है जिनमें कहा गया है कि यह चैटबॉट के लिए चैटबॉट के लिए इश्कबाज और बच्चों के साथ रोमैटिक रोलप्ले में संलग्न होने की अनुमति है।
मेटा के प्रवक्ता एंडी स्टोन ने कहा, “प्रश्न में उदाहरण और नोट हमारी नीतियों के साथ गलत और असंगत थे, और हटा दिए गए हैं।”
“हमारे पास स्पष्ट नीतियां हैं कि एआई वर्ण किस तरह की प्रतिक्रियाएं दे सकते हैं, और वे नीतियां ऐसी सामग्री को प्रतिबंधित करती हैं जो बच्चों और वयस्कों और नाबालिगों के बीच यौन भूमिका निभाती हैं।” उन्होंने कहा।
मेटा ग्रो में कांग्रेस की जांच के लिए कॉल:
नई रिपोर्ट सामने आने के बाद, दो रिपब्लिकन अमेरिकी सीनेटरों ने मेटा प्लेटफार्मों में कांग्रेस की जांच के लिए बुलाया है।
मिसौरी के एक रिपब्लिकन सीनेटर, जोश हॉले ने एक्स (पूर्व में ट्विटर) पर एक पोस्ट में लिखा, “इसलिए, मेटा के पकड़े जाने के बाद ही उसने अपनी कंपनी के डॉक्टर के हिस्से को वापस ले लिया,” सीनेटर जोश हॉले, मिसौरी के एक रिपब्लिकन, सोशल मीडिया साइट एक्स पर एक पोस्ट में कहा। “यह एक तत्काल कांग्रेस की जांच के लिए आधार है,”
इस बीच, टेनेसी के रिपब्लिकन, सीनेटर मार्शा ब्लैकबर्न के एक प्रवक्ता ने प्रकाशन को बताया कि वह सोशल मीडिया दिग्गज में एक जांच का समर्थन करती है।
