ओपनएआई ने गुरुवार को अपने मॉडल स्पेक में बदलाव की घोषणा की, आंतरिक नियम पुस्तिका जो यह बताती है कि इसकी कृत्रिम बुद्धिमत्ता प्रणाली कैसे व्यवहार करती है, चैटजीपीटी का उपयोग करने वाले किशोरों की सुरक्षा पर एक नए और स्पष्ट फोकस के साथ।
सैन फ्रांसिस्को स्थित कंपनी ने कहा कि अद्यतन दिशानिर्देश 13 से 17 वर्ष की आयु के उपयोगकर्ताओं की सुरक्षा को अन्य सभी उद्देश्यों से ऊपर रखते हैं, जिसमें सहायकता और उपयोगकर्ता स्वतंत्रता को अधिकतम करने का दीर्घकालिक लक्ष्य भी शामिल है। जेनेरिक एआई उपकरण युवा उपयोगकर्ताओं को कैसे प्रभावित करते हैं, इसकी बढ़ती जांच के बीच यह कदम उठाया गया है।
किशोर सुरक्षा को अन्य सभी लक्ष्यों से ऊपर रखा गया है
गुरुवार को जारी एक ब्लॉग पोस्ट में, ओपनएआई कहा गया कि वयस्कों की तुलना में किशोरों की विकासात्मक ज़रूरतें अलग-अलग होती हैं और एआई सिस्टम को अधिक सतर्क और उम्र-उपयुक्त तरीके से उनका जवाब देना चाहिए।
जबकि मॉडल स्पेक के व्यापक सिद्धांत सभी पर लागू होते हैं, कंपनी ने कहा कि अपडेट स्पष्ट करता है कि उन सिद्धांतों की व्याख्या कैसे की जानी चाहिए जब नाबालिग शामिल होते हैं, खासकर संवेदनशील या उच्च जोखिम वाली बातचीत में।
संशोधित नियमों के तहतचैटजीपीटी किशोर सुरक्षा को प्राथमिकता दी जाएगी, भले ही यह दस्तावेज़ में निर्धारित अन्य उद्देश्यों के साथ टकराव हो। यह एक उल्लेखनीय बदलाव का प्रतिनिधित्व करता है, क्योंकि नाबालिगों के लिए सुरक्षा अब खुलेपन और लचीलेपन पर मंच के सामान्य जोर से आगे निकल गई है।
युवा उपयोगकर्ताओं के साथ बातचीत के लिए नए नियम
ओपनएआई ने चार विशिष्ट सिद्धांतों की रूपरेखा तैयार की है जो मार्गदर्शन करेंगे कि चैटजीपीटी किशोरों के साथ कैसे बातचीत करता है।
प्रोत्साहित करने के लिए चैटबॉट की आवश्यकता होगी वास्तविक दुनिया का समर्थनखुद को एक विकल्प के रूप में स्थापित करने के बजाय, विश्वसनीय वयस्कों और ऑफ़लाइन रिश्तों को शामिल करता है। इसे किशोरों के साथ किशोरों की तरह ही व्यवहार करना चाहिए, कृपालुता और इस धारणा दोनों से बचना चाहिए कि उनके साथ वयस्कों की तरह व्यवहार किया जा सकता है।
कंपनी ने पारदर्शिता पर भी जोर देते हुए कहा चैटजीपीटी किशोर-केंद्रित बातचीत में वह क्या कर सकता है और क्या नहीं, इसके बारे में स्पष्ट रूप से अपेक्षाएं निर्धारित करनी चाहिए। इसके अलावा, सिस्टम में चापलूसी या अत्यधिक समझौते की संभावना कम होगी, क्योंकि ओपनएआई ने पुष्टि की है कि इस आयु वर्ग के उपयोगकर्ताओं के लिए इसकी तथाकथित चाटुकारिता मीट्रिक को कम कर दिया जाएगा।
उम्र का पता लगाने वाले उपकरण अभी भी जारी किए जा रहे हैं
ओपनएआई ने यह भी खुलासा किया कि इसका आयु पूर्वानुमान मॉडल तैनाती के शुरुआती चरण में है। यह प्रणाली यह अनुमान लगाने के लिए बातचीत में सूक्ष्म संकेतों का विश्लेषण करती है कि कोई उपयोगकर्ता 18 वर्ष से कम का हो सकता है, भले ही उन्होंने अपनी उम्र का खुलासा नहीं किया हो।
कंपनी के अनुसार, निकट भविष्य में मॉडल को धीरे-धीरे विभिन्न उपभोक्ता योजनाओं में चैटजीपीटी उपयोगकर्ताओं के लिए पेश किया जाएगा।
