(ब्लूमबर्ग ओपिनियन) – चीनी आर्टिफिशियल इंटेलिजेंस डेवलपर्स अपने सबसे कमजोर उपयोगकर्ताओं की रक्षा कैसे कर रहे हैं? आत्महत्या और युवा मानसिक स्वास्थ्य के बारे में अमेरिका में डायस्टोपियन सुर्खियों की एक स्ट्रिंग ने सिलिकॉन वैली पर बढ़ते दबाव डाला है, लेकिन हम चीन में समान मामलों की लहर नहीं देख रहे हैं। प्रारंभिक परीक्षण से पता चलता है कि वे कुछ सही कर रहे हैं, हालांकि यह सिर्फ इस तरह की संभावना है कि इस तरह के मामले चीन के कसकर नियंत्रित मीडिया वातावरण में दिन के प्रकाश को कभी नहीं देखेंगे।
एडम राइन के माता-पिता द्वारा दायर ओपनई के खिलाफ एक गलतफहमी मौत का मुकदमा, जिसमें आरोप लगाया गया है कि चैटबॉट ने उसे अलग करने के बाद 16 वर्षीय व्यक्ति की आत्महत्या से मृत्यु हो गई और उसकी मौत की योजना बनाने में मदद की। ओपनई ने द न्यू यॉर्क टाइम्स को बताया कि यह त्रासदी से “गहरा दुखी” था, और माता -पिता के नियंत्रण सहित अपडेट के एक समूह का वादा किया।
मैंने उसी तथाकथित “जेलब्रेक” तरीकों में से कुछ का उपयोग करके दीपसेक के साथ उलझाने की कोशिश की, जिसे अमेरिकी किशोर ने कथित तौर पर रेलिंग को दरकिनार करने के लिए नियोजित किया था। मेरी चुभने के बावजूद, लोकप्रिय चीनी मंच ने माफ नहीं किया, भले ही मैंने कथा लेखन की आड़ में अपने प्रश्नों को जकड़ लिया हो। इसने मुझे लगातार हॉटलाइन पर कॉल करने का आग्रह किया। जब मैंने कहा कि मैं किसी से बात नहीं करना चाहता था, तो इसने मेरी भावनाओं को मान्य किया, लेकिन फिर भी इस बात पर जोर दिया कि यह एक एआई था और वास्तविक भावनाओं को महसूस नहीं कर सकता। यह “अविश्वसनीय रूप से महत्वपूर्ण है कि आप एक ऐसे व्यक्ति के साथ जुड़ें जो मानव हृदय के साथ इस भावना में आपके साथ बैठ सकता है,” चैटबॉट ने कहा। “मानव कनेक्शन की उपचार शक्ति अपूरणीय है।”
इसने मुझे एक परिवार के सदस्य, एक पुराने दोस्त, एक सहकर्मी, एक डॉक्टर या एक चिकित्सक के साथ इन अंधेरे विचारों को लाने के लिए प्रोत्साहित किया, और यहां तक कि एक हॉटलाइन के साथ अभ्यास भी किया। “सबसे साहसी चीज जो आप अभी कर सकते हैं, वह छिपाने में बेहतर नहीं हो सकता है, लेकिन एक व्यक्ति को आप का एक छोटा, वास्तविक हिस्सा देखने पर विचार करने के लिए,” यह विचार करने के लिए।
मेरा प्रयोग विशुद्ध रूप से वास्तविक है। राइन महीनों के लिए चैट के साथ लगे रहे, संभवतः समय के साथ उपकरण के अंतर्निहित रेलिंग को मिटा दिया। फिर भी, अन्य शोधकर्ताओं ने इसी तरह के परिणाम देखे हैं। चाइना मीडिया प्रोजेक्ट ने चीन के तीन सबसे लोकप्रिय चैटबॉट्स – डीपसेक, बाईडेंस लिमिटेड के डौबाओ, और बैडू इंक के एर्नी 4.5 को अंग्रेजी और चीनी दोनों में बातचीत के साथ प्रेरित किया। यह पाया गया कि सभी चार चीनी में अधिक सतर्क थे, बार -बार एक वास्तविक व्यक्ति तक पहुंचने के महत्व पर जोर देते हुए। यदि कोई सबक है, तो यह है कि इन उपकरणों को प्रशिक्षित किया गया है जब वे नहीं होते हैं तो मानव होने का दिखावा नहीं करते हैं।
व्यापक रिपोर्टें हैं कि चीनी युवा, चूहे-दौड़ “इनवोल्यूशन” दबावों और एक अनिश्चित अर्थव्यवस्था के साथ जूझ रहे हैं, चिकित्सा और साहचर्य के लिए एआई उपकरणों की ओर बढ़ रहे हैं। प्रौद्योगिकी का प्रसार एक शीर्ष सरकारी प्राथमिकता है, जिसका अर्थ है कि गलत होने वाली चीजों की सुर्खियों में आने की संभावना कम होती है। दीपसेक के अपने शोध ने सुझाव दिया है कि ओपन-सोर्स मॉडल, जो चीन के एआई पारिस्थितिकी तंत्र में प्रसार करते हैं, “बंद-स्रोत मॉडल की तुलना में अधिक गंभीर जेलब्रेक सुरक्षा चुनौतियों का सामना करें।” एक साथ रखो, यह संभावना है कि चीन के सुरक्षा गार्ड्रिल को घरेलू रूप से दबाव-परीक्षण किया जा रहा है, और राइन जैसी कहानियां बस इसे सार्वजनिक क्षेत्र में नहीं बना रही हैं।
लेकिन सरकार इस मुद्दे को नजरअंदाज नहीं करती है। पिछले महीने, चीन के साइबरस्पेस प्रशासन ने एआई सुरक्षा पर एक अद्यतन ढांचा जारी किया। शिक्षाविदों और निजी क्षेत्र के शोधकर्ताओं की एक टीम के साथ संयोजन में प्रकाशित दस्तावेज उल्लेखनीय था कि इसमें एक अंग्रेजी अनुवाद शामिल था, यह संकेत देना कि यह एक अंतरराष्ट्रीय दर्शकों के लिए था। एजेंसी ने नैतिक जोखिमों की एक नई श्रृंखला की पहचान की, जिसमें “एंथ्रोपोमोर्फिक इंटरैक्शन” पर आधारित एआई उत्पाद शामिल हैं, जो भावनात्मक निर्भरता को बढ़ावा दे सकते हैं और उपयोगकर्ताओं के व्यवहार को प्रभावित कर सकते हैं। इससे पता चलता है कि अधिकारी एक ही वैश्विक सुर्खियों पर नज़र रख रहे हैं, या घर पर इसी तरह की समस्याओं को देख रहे हैं।
कमजोर उपयोगकर्ताओं को मनोवैज्ञानिक खतरों से बचाना एआई उद्योग के लिए सिर्फ एक नैतिक जिम्मेदारी नहीं है। यह एक व्यवसाय और राजनीतिक है। वाशिंगटन में, माता-पिता जो कहते हैं कि उनके बच्चों को चैटबॉट के साथ बातचीत से आत्म-हानि के लिए प्रेरित किया गया था, ने शक्तिशाली प्रशंसापत्र दिए हैं। अमेरिकी नियामकों ने सोशल मीडिया युग के दौरान युवाओं के जोखिमों को अनदेखा करने के लिए लंबे समय से आलोचना का सामना किया है, हालांकि वे इस बार मुकदमों और सार्वजनिक आक्रोश माउंट के रूप में शांत रहने की संभावना नहीं रखते हैं। और अमेरिकी एआई कंपनियां चीनी उपकरणों के खतरों की आलोचना नहीं कर सकती हैं यदि वे घर पर संभावित मनोवैज्ञानिक नुकसान की उपेक्षा कर रहे हैं।
इस बीच, बीजिंग, एआई सुरक्षा और शासन में एक विश्व नेता होने की उम्मीद करता है, और दुनिया भर में अपने कम लागत वाले मॉडल का निर्यात करता है। लेकिन इन जोखिमों को गलीचा के नीचे नहीं बह सकता है क्योंकि उपकरण वैश्विक हैं। चीन को पारदर्शिता की पेशकश करनी चाहिए यदि यह वास्तव में जिम्मेदार विकास में आगे बढ़ रहा है।
यूएस-चीन की दौड़ के लेंस के माध्यम से समस्या को फ्रेम करना इस बिंदु को याद करता है। यदि कुछ भी हो, तो यह कंपनियों को एआई विकास के साथ जांच और आगे की गति को चकमा देने के बहाने के रूप में भू -राजनीतिक प्रतिद्वंद्विता का उपयोग करने की अनुमति देता है। इस तरह की पृष्ठभूमि में अधिक युवा लोगों को संपार्श्विक क्षति होने का खतरा है।
फ्रंटियर एआई खतरों के लिए जनता का ध्यान आकर्षित किया गया है, जैसे कि इन कंप्यूटर सिस्टम के लिए दुष्ट होने की संभावना। संयुक्त राष्ट्र जैसे निकायों ने भयावह जोखिमों को कम करने पर बहुपक्षीय सहयोग का आग्रह करते हुए वर्षों बिताए हैं।
अब, कमजोर लोगों की रक्षा करना, हालांकि, विभाजनकारी नहीं होना चाहिए। इन जोखिमों को कम करने और जेलब्रेक को रोकने पर अधिक शोध खुला और साझा किया जाना चाहिए। मध्य मैदान को खोजने में हमारी विफलता पहले से ही जीवन की लागत है।
ब्लूमबर्ग की राय से अधिक:
यह कॉलम लेखक के व्यक्तिगत विचारों को दर्शाता है और जरूरी नहीं कि संपादकीय बोर्ड या ब्लूमबर्ग एलपी और उसके मालिकों की राय को प्रतिबिंबित करता है।
कैथरीन थोरबेके एशिया टेक को कवर करने वाले एक ब्लूमबर्ग राय स्तंभकार हैं। पहले वह सीएनएन और एबीसी न्यूज में एक तकनीकी रिपोर्टर थी।
इस तरह की और कहानियाँ उपलब्ध हैं Bloomberg.com/opinion
