ओपनएआई ने कहा है कि वह चैटजीपीटी में एक आयु पूर्वानुमान प्रणाली ला रहा है ताकि यह स्थापित किया जा सके कि कोई खाता 18 वर्ष से कम उम्र के उपयोगकर्ता का है या नहीं, ताकि ‘अतिरिक्त सुरक्षा सेटिंग्स चालू की जा सके।’ सैन फ्रांसिस्को स्थित एआई स्टार्टअप का कहना है कि उसका आयु पूर्वानुमान मॉडल ‘व्यवहार और खाता-स्तरीय संकेतों’ के संयोजन का उपयोग करता है जैसे कि चैटजीपीटी खाते की आयु, समय के साथ उपयोग पैटर्न और उपयोगकर्ता की बताई गई आयु को उनकी वास्तविक आयु पर शून्य करना।
यह निर्धारित करने के बाद कि खाता 18 वर्ष से कम का है, ओपनएआई का कहना है कि इसका नया टूल स्वचालित रूप से ग्राफिक हिंसा, जोखिम भरे व्यवहार को प्रोत्साहित करने वाली वायरल चुनौतियों, यौन या रोमांटिक रोलप्ले, आत्म-नुकसान के चित्रण, शारीरिक शर्मिंदगी या अत्यधिक सौंदर्य मानकों को बढ़ावा देने वाली सामग्री जैसे संवेदनशील सामग्री के संपर्क में आने वाले नाबालिगों के जोखिम को कम करने के लिए डिज़ाइन की गई अतिरिक्त सुरक्षा लागू करेगा।
कंपनी का कहना है कि अगर उसका सिस्टम किसी की उम्र को लेकर आश्वस्त नहीं है या उसके पास किसी उपयोगकर्ता के बारे में अधूरी जानकारी है, तो वह अब सुरक्षित अनुभव के लिए डिफ़ॉल्ट हो जाएगा।
‘कोई भी सिस्टम परफेक्ट नहीं होता. कभी-कभी हम इसे ग़लत समझ सकते हैं,’ OpenAI स्वीकार करता है समर्थन पृष्ठ.
यदि उपयोगकर्ता को गलत तरीके से अंडर-18 श्रेणी में रखा गया है, तो उनके पास ‘सुरक्षित पहचान-सत्यापन सेवा’ के माध्यम से पर्सोना के माध्यम से एक सेल्फी का उपयोग करके अपनी उम्र की पुष्टि करने और पूर्ण पहुंच बहाल करने का एक आसान तरीका होगा।
नई प्रणाली यूरोपीय संघ को छोड़कर विश्व स्तर पर लागू हो रही है, जहां यह ‘क्षेत्रीय आवश्यकताओं को पूरा करने के लिए आने वाले हफ्तों में शुरू होगी।’
OpenAI ChatGPT में आयु पूर्वानुमान क्यों ला रहा है?
ओपनएआई ने पिछले साल सितंबर में आयु भविष्यवाणी प्रणाली की घोषणा की थी जब उस पर चिंताओं को लेकर दबाव बढ़ रहा था चैटजीपीटीआत्महत्याओं की एक श्रृंखला को चैटबॉट से जोड़ने के बाद मानसिक स्वास्थ्य और बाल सुरक्षा पर इसका प्रभाव पड़ रहा है।
कंपनी को उन बच्चों के माता-पिता के मुकदमों का भी सामना करना पड़ रहा है जिन्होंने चैटजीपीटी की मदद से कथित तौर पर आत्महत्या कर ली है। इसकी जांच अमेरिकी संघीय व्यापार आयोग (एफटीसी) के साथ-साथ उसके अन्य साथियों द्वारा भी की जा रही है कि चैटजीपीटी बच्चों और किशोरों को कैसे नकारात्मक रूप से प्रभावित करता है।
ओपनएआई ने पहले चैटजीपीटी में अभिभावक नियंत्रण भी पेश किया था जो माता-पिता को अपने चैटजीपीटी खातों को अपने बच्चों के साथ जोड़ने और वॉयस मोड, इमेज जेनरेशन और मेमोरी जैसी विशिष्ट उच्च जोखिम वाली सुविधाओं को अक्षम करने की अनुमति देता है। माता-पिता के पास अपने बच्चों के लिए चैटजीपीटी के साथ ब्लैकआउट अवधि निर्धारित करने और जब सिस्टम “तीव्र संकट” के संकेतों का पता लगाता है तो सक्रिय सूचनाएं प्राप्त करने का विकल्प भी होता है।
इस बीच, यह सुविधा NSFW सामग्री परोसने के लिए ChatGPT के अंदर आगामी ‘वयस्क मोड’ का अग्रदूत भी है। OpenAI के एप्लीकेशन के सीईओ फिदजी सिमो पिछले साल दिसंबर में कहा था कि कंपनी चैटबॉट के अंदर एडल्ट मोड शुरू करने से पहले उम्र का पूर्वानुमान बेहतर करना चाहती है।