एक नई जांच ने चिंता जताई है कि CHATGPT बच्चों को स्पष्ट और खतरनाक सलाह प्रदान कर सकता है, जिसमें नशीली दवाओं के उपयोग, चरम डाइटिंग और आत्म-नुकसान के निर्देश शामिल हैं।
वॉचडॉग का दावा है कि रेलिंग अप्रभावी हैं
अनुसंधान, द्वारा किया गया था यूके-आधारित केंद्र के लिए डिजिटल हेट (CCDH) और एसोसिएटेड प्रेस द्वारा समीक्षा की गई, पाया गया कि एआई चैटबॉट ने अक्सर जोखिम भरे व्यवहार के बारे में चेतावनी जारी की, लेकिन फिर शोधकर्ताओं द्वारा 13 साल के बच्चों के रूप में प्रस्तुत किए जाने पर विस्तृत और व्यक्तिगत योजनाओं की पेशकश करने के लिए आगे बढ़े।
तीन घंटे से अधिक रिकॉर्ड किए गए इंटरैक्शन से पता चला कि CHATGPT ने कभी-कभी काल्पनिक परिवार के सदस्यों के अनुरूप भावनात्मक रूप से चार्ज किए गए सुसाइड नोटों का मसौदा तैयार किया, भूख-दमनकारी दवाओं के साथ कैलोरी-प्रतिबंधित आहार का सुझाव दिया, और अवैध पदार्थों के साथ शराब के संयोजन के लिए कदम-दर-चरण निर्देश दिए। एक उदाहरण में, यह प्रदान करता है कि शोधकर्ताओं ने “घंटे-दर-घंटे” पार्टी योजना के रूप में वर्णित किया, जिसमें परमानंद, कोकीन और भारी शराब पीना शामिल है।
आधे से अधिक प्रतिक्रियाओं को ‘खतरनाक’ माना जाता है
CCDH ने कहा कि आधे से अधिक 1,200 चैटबॉट प्रतिक्रियाएं “खतरनाक” के रूप में वर्गीकृत किया गया था। मुख्य कार्यकारी इमरान अहमद ने मंच के सुरक्षा उपायों की आलोचना की, यह दावा करते हुए कि इसके सुरक्षात्मक “रेलिंग” अप्रभावी और आसान थे। शोधकर्ताओं ने पाया कि एक स्कूल प्रस्तुति या एक मित्र के लिए हानिकारक अनुरोधों को तैयार करना अक्सर प्रतिक्रिया देने के लिए पर्याप्त था।
“हम रेलिंग का परीक्षण करना चाहते थे। आंत की प्रारंभिक प्रतिक्रिया है, ‘ओह माय लॉर्ड, कोई रेलिंग नहीं हैं।” रेल पूरी तरह से अप्रभावी हैं।
Openai चुनौती स्वीकार करता है, लेकिन कोई तत्काल फिक्स नहीं करता है
ओपनईजो CHATGPT का संचालन करता है, ने कहा कि यह सुधार करने के लिए काम कर रहा था कि सिस्टम कैसे पता लगाता है और संवेदनशील स्थितियों का जवाब देता है, और इसका उद्देश्य मानसिक या भावनात्मक संकट के संकेतों की बेहतर पहचान करना है। हालाँकि, यह सीधे CCDH के विशिष्ट निष्कर्षों को संबोधित नहीं करता था या किसी भी तत्काल परिवर्तन को रेखांकित करता है।
CHATGPT के निर्माता ने कहा, “CHATGPT के साथ कुछ बातचीत सौम्य या खोजपूर्ण शुरू कर सकती है, लेकिन अधिक संवेदनशील क्षेत्र में स्थानांतरित हो सकती है।
एआई पर किशोर निर्भरता सुरक्षा भय को बढ़ाती है
सलाह और साहचर्य के लिए एआई सिस्टम की ओर मुड़ने वाले किशोरों के बारे में बढ़ती चिंता के बीच यह रिपोर्ट आई है। द्वारा एक हालिया अध्ययन हमें गैर-लाभ कॉमन सेंस मीडिया ने सुझाव दिया कि 70 प्रतिशत किशोर सामाजिक संपर्क के लिए एआई चैटबॉट का उपयोग करते हैं, जिसमें युवा किशोर अपने मार्गदर्शन पर भरोसा करने की अधिक संभावना रखते हैं।
CHATGPT उपयोगकर्ताओं की उम्र को जन्म की एक स्व-रिपोर्ट की गई तारीख से परे सत्यापित नहीं करता है, यह बताने के बावजूद कि यह 13 वर्ष से कम उम्र के लोगों के लिए नहीं है। शोधकर्ताओं ने कहा कि सिस्टम ने खतरनाक सिफारिशें प्रदान करते समय अपने संकेतों में घोषित उम्र और अन्य सुराग दोनों को नजरअंदाज कर दिया।
प्रचारकों ने चेतावनी दी कि प्रौद्योगिकी की व्यक्तिगत, मानव जैसी प्रतिक्रियाओं का उत्पादन करने की क्षमता खोज इंजन परिणामों की तुलना में हानिकारक सुझावों को अधिक प्रेरक बना सकती है। CCDH रिपोर्ट का तर्क है कि मजबूत सुरक्षा उपायों के बिना, बच्चों को मैत्रीपूर्ण मार्गदर्शन के रूप में प्रच्छन्न खतरनाक सलाह प्राप्त करने का अधिक जोखिम हो सकता है।
