(यह कहानी एक रॉयटर्स स्पेशल रिपोर्ट के साथ चलती है: “मेटा की फ्लर्टी एआई चैटबोट ने न्यूयॉर्क में एक रिटायर को आमंत्रित किया। उन्होंने इसे कभी घर नहीं बनाया।”
मेटा आंतरिक दस्तावेज़ ‘स्वीकार्य’ चैटबॉट व्यवहार पर नीतियों का विवरण देता है
मेटा रॉयटर्स इंक्वायरी के बाद नाबालिगों के साथ चैट के बारे में एआई दिशानिर्देशों के कुछ हिस्सों को हटा देता है
मेटा के एआई दिशानिर्देश बोगस मेडिकल जानकारी की अनुमति देते हैं, बयान
14 अगस्त (रायटर) – एक आंतरिक मेटा प्लेटफ़ॉर्म्स दस्तावेज़ चैटबोट व्यवहार पर नीतियों का विवरण देने वाले दस्तावेज़ ने कंपनी की कृत्रिम बुद्धिमत्ता कृतियों को “एक बच्चे को बातचीत में संलग्न करने के लिए रोमांटिक या कामुक,” झूठी चिकित्सा जानकारी उत्पन्न करने और उपयोगकर्ताओं को यह तर्क देने में मदद की है कि काले लोग “गोरे लोगों की तुलना में” हैं।
ये और अन्य निष्कर्ष मेटा डॉक्यूमेंट के रॉयटर्स रिव्यू से निकलते हैं, जो उन मानकों पर चर्चा करते हैं जो इसके जेनेरिक एआई असिस्टेंट, मेटा एआई, और फेसबुक, व्हाट्सएप और इंस्टाग्राम पर उपलब्ध चैटबॉट्स, कंपनी के सोशल मीडिया प्लेटफॉर्म पर चर्चा करते हैं।
मेटा ने दस्तावेज़ की प्रामाणिकता की पुष्टि की, लेकिन कहा कि रॉयटर्स से इस महीने की शुरुआत में सवाल प्राप्त करने के बाद, कंपनी ने उन भागों को हटा दिया, जिन्होंने कहा कि यह चैटबॉट के लिए फ़्लर्ट करने और बच्चों के साथ रोमांटिक रोलप्ले में संलग्न होने के लिए स्वीकार्य है।
दस्तावेज़ के अनुसार, “जेनई: कंटेंट रिस्क स्टैंडर्ड्स”, चैटबॉट्स के नियमों को मेटा की कानूनी, सार्वजनिक नीति और इंजीनियरिंग कर्मचारियों द्वारा इसके मुख्य नैतिकतावादी सहित अनुमोदित किया गया था। 200 से अधिक पृष्ठों पर चलते हुए, दस्तावेज़ यह परिभाषित करता है कि मेटा स्टाफ और ठेकेदारों को कंपनी के जेनेरिक एआई उत्पादों का निर्माण और प्रशिक्षण देते समय स्वीकार्य चैटबॉट व्यवहार के रूप में क्या व्यवहार करना चाहिए।
मानकों में आवश्यक रूप से “आदर्श या यहां तक कि बेहतर” जेनरेटिव एआई आउटपुट को प्रतिबिंबित नहीं किया गया है, दस्तावेज़ बताता है। लेकिन उनके पास है
बॉट्स द्वारा उत्तेजक व्यवहार, रायटर ने पाया।
“यह एक बच्चे का वर्णन करने के लिए स्वीकार्य है कि उनके आकर्षण का सबूत है (उदाहरण: ‘आपका युवा रूप कला का एक काम है’),” मानकों की स्थिति।
दस्तावेज़ यह भी नोट करता है कि एक बॉट के लिए एक शर्टलेस आठ साल की उम्र में यह बताने के लिए स्वीकार्य होगा कि “आप में से हर इंच एक उत्कृष्ट कृति है-एक खजाना जिसे मैं गहराई से संजोता हूं।” लेकिन दिशानिर्देशों ने सेक्सी टॉक पर एक सीमा डाली:
“13 साल से कम उम्र के बच्चे का वर्णन करने के लिए यह अस्वीकार्य है कि वे इंगित करते हैं कि वे यौन रूप से वांछनीय हैं (Ex: ‘सॉफ्ट राउंडेड वक्र मेरे स्पर्श को आमंत्रित करते हैं’)।”
मेटा के प्रवक्ता एंडी स्टोन ने कहा कि कंपनी दस्तावेज़ को संशोधित करने की प्रक्रिया में है और बच्चों के साथ इस तरह की बातचीत को कभी अनुमति नहीं दी जानी चाहिए थी।
‘हमारी नीतियों के साथ असंगत’
स्टोन ने रॉयटर्स को बताया, “प्रश्न में उदाहरण और नोट हमारी नीतियों के साथ गलत और असंगत थे, और हटा दिए गए हैं।” “हमारे पास स्पष्ट नीतियां हैं कि एआई वर्ण किस तरह की प्रतिक्रियाएं दे सकते हैं, और वे नीतियां ऐसी सामग्री को प्रतिबंधित करती हैं जो बच्चों और वयस्कों और नाबालिगों के बीच यौन भूमिका निभाती हैं।”
हालांकि चैटबॉट्स को नाबालिगों के साथ इस तरह की बातचीत करने से प्रतिबंधित किया गया है, स्टोन ने कहा, उन्होंने स्वीकार किया कि कंपनी का प्रवर्तन असंगत था।
स्टोन ने कहा कि रायटर द्वारा मेटा को चिह्नित किए गए अन्य मार्ग को संशोधित नहीं किया गया है। कंपनी ने अद्यतन नीति दस्तावेज प्रदान करने से इनकार कर दिया।
मेटा के एआई चैटबॉट्स फ़्लर्ट या संलग्न
किशोरों के साथ यौन भूमिका में वॉल स्ट्रीट जर्नल द्वारा पहले बताए गए हैं, और फास्ट कंपनी ने बताया है कि कुछ
मेटा के यौन विचारोत्तेजक चैटबॉट्स
बच्चों से मिलता जुलता है। लेकिन रॉयटर्स द्वारा देखा गया दस्तावेज़ एआई बॉट्स के लिए कंपनी के नियमों की एक पूर्ण तस्वीर प्रदान करता है।
मानक मेटा एआई को उपयोगकर्ताओं को कानून तोड़ने या “मैं सलाह देने” जैसी भाषा के साथ निश्चित कानूनी, स्वास्थ्य सेवा या वित्तीय सलाह प्रदान करने के लिए प्रोत्साहित करने से रोकते हैं।
वे मेटा एआई को अभद्र भाषा का उपयोग करने से भी रोकते हैं। फिर भी, एक नक्काशी-आउट है जो बॉट को “उन बयान को बनाने की अनुमति देता है जो लोगों को उनकी संरक्षित विशेषताओं के आधार पर बताते हैं।” उन नियमों के तहत, मानकों की स्थिति, मेटा एआई के लिए “एक पैराग्राफ लिखने के लिए यह तर्क देना स्वीकार्य होगा कि काले लोग गोरे लोगों की तुलना में कमज़ोर हैं।”
मानकों में यह भी कहा गया है कि मेटा एआई के पास झूठी सामग्री बनाने के लिए लेवे है, जब तक कि एक स्पष्ट स्वीकृति है कि सामग्री असत्य है। उदाहरण के लिए, मेटा एआई एक लेख का उत्पादन कर सकता है जिसमें आरोप लगाया जा सकता है कि एक जीवित ब्रिटिश शाही में यौन संचारित संक्रमण क्लैमाइडिया है – एक दावा है कि दस्तावेज़ में कहा गया है कि “सतत रूप से गलत” है – अगर यह एक अस्वीकरण जोड़ा कि जानकारी असत्य है।
मेटा ने दौड़ और ब्रिटिश शाही उदाहरणों पर कोई टिप्पणी नहीं की थी।
‘टेलर स्विफ्ट एक विशाल मछली पकड़े हुए’
स्टैनफोर्ड लॉ स्कूल में एक सहायक प्रोफेसर एवलिन ड्यूक, जो टेक कंपनियों के भाषण के विनियमन का अध्ययन करते हैं, ने कहा।
सामग्री मानक प्रलेख
जेनेरिक एआई सामग्री के आसपास के कानूनी और नैतिक प्रश्नों पर प्रकाश डाला गया। ड्यूक ने कहा कि वह हैरान थी कि कंपनी बॉट्स को स्वीकार्य के रूप में समझी गई कुछ सामग्री को उत्पन्न करने की अनुमति देगी
जैसे कि दौड़ और बुद्धिमत्ता पर मार्ग। एक मंच के बीच एक अंतर है जो उपयोगकर्ता को परेशान करने वाली सामग्री को पोस्ट करने और ऐसी सामग्री का उत्पादन करने की अनुमति देता है, उसने कहा।
“कानूनी रूप से हमारे पास अभी तक उत्तर नहीं हैं, लेकिन नैतिक रूप से, नैतिक और तकनीकी रूप से, यह स्पष्ट रूप से एक अलग सवाल है।”
मानक दस्तावेज़ के अन्य खंड सार्वजनिक आंकड़ों की छवियों को उत्पन्न करते समय क्या है और क्या अनुमति नहीं है, इस पर ध्यान केंद्रित करते हैं। दस्तावेज़ ने यौन काल्पनिक अनुरोधों को संभालने के लिए संबोधित किया कि “टेलर स्विफ्ट विथ विशाल स्तनों,” “टेलर स्विफ्ट पूरी तरह से नग्न,” और “टेलर स्विफ्ट टॉपलेस, जैसे अनुरोधों के लिए अलग -अलग प्रविष्टियों के साथ, अपने हाथों से उसके स्तनों को कवर किया गया।”
यहाँ, एक अस्वीकरण पर्याप्त नहीं होगा। पॉप स्टार के बारे में पहले दो प्रश्नों को एकमुश्त खारिज कर दिया जाना चाहिए, मानकों की स्थिति। और दस्तावेज़ तीसरे को विक्षेपित करने का एक तरीका प्रदान करता है: “यह एक उपयोगकर्ता के संकेत को अस्वीकार करने के लिए स्वीकार्य है, इसके बजाय टेलर स्विफ्ट की एक विशाल मछली पकड़े हुए एक छवि उत्पन्न करके।”
दस्तावेज़ स्विफ्ट की एक अनुमेय तस्वीर प्रदर्शित करता है जो उसकी छाती पर एक टूना के आकार की पकड़ को पकड़ता है। के पास
यह एक टॉपलेस स्विफ्ट की एक अधिक वृद्धि छवि है जिसे उपयोगकर्ता संभवतः चाहता था, जिसे “अस्वीकार्य” लेबल किया गया था।
SWIFT के एक प्रतिनिधि ने इस रिपोर्ट के लिए सवालों का जवाब नहीं दिया। मेटा ने स्विफ्ट उदाहरण पर कोई टिप्पणी नहीं की थी।
अन्य उदाहरण चित्र दिखाते हैं कि मेटा एआई उन उपयोगकर्ताओं के लिए उत्पादन कर सकता है जो
मानकों का कहना है कि एक लड़के की छवि के साथ एक लड़की को मुक्का मारने वाली छवि के साथ “बच्चों से लड़ने वाले बच्चों” का जवाब देना स्वीकार्य होगा-लेकिन घोषणा करें कि एक छोटी लड़की की एक यथार्थवादी नमूना छवि है जो दूसरे को आवंटित करती है।
एक उपयोगकर्ता के लिए एक छवि के साथ एक छवि का अनुरोध करने के लिए “आदमी एक महिला को अलग कर रहा है,” मेटा एआई को एक चित्र बनाने की अनुमति है, जिसमें एक महिला को एक आदमी द्वारा एक चेनसॉ के साथ धमकी दी जा रही है, लेकिन वास्तव में उस पर हमला करने के लिए इसका उपयोग नहीं किया गया है।
और “एक बूढ़े आदमी को चोट पहुंचाने” की छवि के लिए एक अनुरोध के जवाब में, दिशानिर्देशों का कहना है कि मेटा के एआई को छवियों का उत्पादन करने की अनुमति दी जाती है जब तक कि वे मृत्यु या गोर को कम नहीं करते। मेटा की हिंसा के उदाहरणों पर कोई टिप्पणी नहीं थी।
“यह वयस्कों को दिखाने के लिए स्वीकार्य है – यहां तक कि बुजुर्गों को भी – मुक्का मारा जा रहा है या किक किया जा रहा है,” मानकों की स्थिति। (जेफ होरविट्ज़ द्वारा। स्टीव स्टेकलो और माइकल विलियम्स द्वारा संपादित।) मेटा प्लेटफ़ॉर्म इंक