यूएस मेमो का कहना है कि चीनी एआई मॉडल बीजिंग के टॉकिंग पॉइंट्स के साथ संरेखित करते हैं
मेमो का कहना है कि चीनी मॉडल प्रत्येक पुनरावृत्ति के साथ सेंसरशिप में वृद्धि करते हैं
ऐ बायस चीन से परे एक चिंता, जैसा कि मस्क के ग्रोक के साथ देखा गया है
अमेरिकी राज्य विभाग के स्रोत का कहना है कि निष्कर्ष सार्वजनिक किए जा सकते हैं
वॉशिंगटन, 9 जुलाई (रायटर) – अमेरिकी अधिकारी चुपचाप चीनी कम्युनिस्ट पार्टी की आधिकारिक लाइन के लिए अपने उत्पादन को ढालने की क्षमता पर चीनी कृत्रिम बुद्धिमत्ता कार्यक्रमों को ग्रेड कर रहे हैं, रॉयटर्स द्वारा समीक्षा की गई एक ज्ञापन के अनुसार।
अमेरिकी राज्य और वाणिज्य विभाग के अधिकारी इस प्रयास पर एक साथ काम कर रहे हैं, जो चीनी और अंग्रेजी में प्रश्नों की मानकीकृत सूची को खिलाकर और उनके आउटपुट को स्कोर करके संचालित होता है, मेमो ने दिखाया। मूल्यांकन, जो पहले रिपोर्ट नहीं किया गया है, इस बात का एक और उदाहरण है कि कैसे अमेरिका और चीन बड़े भाषा मॉडल की तैनाती पर प्रतिस्पर्धा कर रहे हैं, कभी -कभी कृत्रिम बुद्धिमत्ता (एआई) के रूप में वर्णित। दैनिक जीवन में एआई के एकीकरण का मतलब है कि इन मॉडलों में कोई भी वैचारिक पूर्वाग्रह व्यापक हो सकता है।
विदेश विभाग के एक अधिकारी ने कहा कि उनके मूल्यांकन को अंततः अमेरिका के मुख्य भू -राजनीतिक प्रतिद्वंद्वी द्वारा तैनात किए जा रहे वैचारिक रूप से धीमा एआई उपकरणों पर अलार्म बढ़ाने के लिए एक बोली में सार्वजनिक किया जा सकता है।
राज्य और वाणिज्य विभागों ने प्रयास पर टिप्पणी मांगने वाले संदेशों को तुरंत वापस नहीं किया; वाशिंगटन में चीन के दूतावास ने तुरंत एक ईमेल वापस नहीं किया। बीजिंग चीनी मॉडल के उत्पादन को पुलिसिंग का कोई रहस्य नहीं बनाता है ताकि यह सुनिश्चित हो सके कि वे एक-पक्षीय राज्य के “मुख्य समाजवादी मूल्यों” का पालन करते हैं।
व्यवहार में, इसका मतलब यह है कि मॉडल अनजाने में सरकार की आलोचना नहीं करते हैं या तियानमेन स्क्वायर में लोकतंत्र समर्थक विरोध प्रदर्शन पर चीन के 1988 की दरार जैसे संवेदनशील विषयों में बहुत दूर तक भटकते हैं, या इसकी अल्पसंख्यक उइघुर आबादी के अधीनता।
रॉयटर्स द्वारा समीक्षा किए गए ज्ञापन से पता चलता है कि अमेरिकी अधिकारी हाल ही में मॉडल का परीक्षण कर रहे हैं, जिसमें अलीबाबा के क्यूवेन 3 और डीपसेक के आर 1 शामिल हैं, और फिर मॉडल को स्कोर करते हैं कि वे सवालों के साथ लगे हुए हैं या नहीं, और जब वे संलग्न थे, तो उनके उत्तर में उनके उत्तरों को कैसे गठबंधन किया गया था।
मेमो के अनुसार, परीक्षण से पता चला कि चीनी एआई उपकरणों को अपने अमेरिकी समकक्षों की तुलना में बीजिंग के टॉकिंग पॉइंट्स के साथ अपने उत्तरों को संरेखित करने की अधिक संभावना थी, उदाहरण के लिए, दक्षिण चीन सागर में विवादित द्वीपों पर चीन के दावों का समर्थन करके।
दीपसेक के मॉडल, मेमो ने कहा, अक्सर उपयोग किए जाने वाले बॉयलरप्लेट भाषा ने बीजिंग की “स्थिरता और सामाजिक सद्भाव” के लिए प्रतिबद्धता की प्रशंसा की, जब तियानमेन स्क्वायर जैसे संवेदनशील विषयों के बारे में पूछा गया।
मेमो ने कहा कि चीनी मॉडलों के प्रत्येक नए पुनरावृत्ति ने सेंसरशिप के बढ़े हुए संकेत दिखाए, यह सुझाव देते हुए कि चीनी एआई डेवलपर्स तेजी से यह सुनिश्चित करने पर ध्यान केंद्रित कर रहे थे कि उनके उत्पादों को बीजिंग की लाइन का पता चला।
दीपसेक और अलीबाबा ने तुरंत टिप्पणी मांगते हुए संदेश वापस नहीं किया।
एआई मॉडल के रचनाकारों की क्षमता उनके चैटबॉट के वैचारिक खेल के मैदान को झुकाने के लिए एक महत्वपूर्ण चिंता के रूप में उभरी है, न कि केवल चीनी एआई मॉडल के लिए। जब अरबपति एलोन मस्क – जिन्होंने अक्सर दूर -दराज़ कारणों को चैंपियन बनाया है – ने अपने XAI चैटबोट, ग्रोक में बदलाव की घोषणा की, मॉडल ने हिटलर का समर्थन करना शुरू कर दिया और यहूदियों को षड्यंत्रकारी और बड़े शब्दों में हमला करना शुरू कर दिया।
एक्स, मस्क की सोशल मीडिया साइट पर पोस्ट किए गए एक बयान में, मंगलवार को, ग्रोक ने कहा कि यह “अनुचित पदों को हटाने के लिए सक्रिय रूप से काम कर रहा था।” बुधवार को, एक्स के सीईओ लिंडा याकारिनो ने कहा कि वह अपनी भूमिका से हट जाएगी। आश्चर्यजनक प्रस्थान के लिए कोई कारण नहीं दिया गया था। ।