ओपनएआई का कहना है कि हजारों चैटजीपीटी उपयोगकर्ता आत्महत्या पर चर्चा करते हैं, चैटबॉट पर भावनात्मक निर्भरता बनाते हैं

सोमवार को प्रकाशित एक नवीनतम ब्लॉग पोस्ट के अनुसार, ओपनएआई का अनुमान है कि चैटजीपीटी के लगभग 0.15 प्रतिशत साप्ताहिक उपयोगकर्ता आत्मघाती विचारों या योजनाओं पर चर्चा करते हैं। यह एक छोटा सा अंश है, लेकिन मंच की व्यापक वैश्विक पहुंच को देखते हुए महत्वपूर्ण है।

कंपनी का कहना है नया GPT-5 मॉडल, जो चैटजीपीटी को डिफ़ॉल्ट रूप से शक्ति प्रदान करता है, मानसिक-स्वास्थ्य से संबंधित चैट में असुरक्षित या गैर-अनुपालक प्रतिक्रियाओं को 80 प्रतिशत तक कम कर देता है, और जब उपयोगकर्ता मनोविकृति, उन्माद या चैटबॉट पर भावनात्मक रूप से अत्यधिक निर्भरता के लक्षण दिखाते हैं तो काफी बेहतर प्रदर्शन करता है।

“चैटजीपीटी कोई चिकित्सक नहीं है”

यह अपडेट OpenAI में मनोचिकित्सकों और मनोवैज्ञानिकों के साथ महीनों के काम के बाद आया है ग्लोबल फिजिशियन नेटवर्क60 देशों में लगभग 300 चिकित्सकों का एक समूह। उनमें से 170 से अधिक ने सीधे नई प्रणाली में योगदान दिया, प्रतिक्रियाएं लिखीं और स्कोरिंग की, सुरक्षित व्यवहार को परिभाषित किया और समीक्षा की कि मॉडल संवेदनशील परिदृश्यों को कैसे संभालता है।

विशेष रूप से, कंपनी ने कहा कि लक्ष्य घूमना नहीं है चैटजीपीटी एक चिकित्सक के रूप में, लेकिन यह सुनिश्चित करने के लिए कि यह संकट के संकेतों को पहचानता है और धीरे-धीरे उपयोगकर्ताओं को पेशेवर या वास्तविक दुनिया के समर्थन की ओर पुनर्निर्देशित करता है। यह मॉडल अब लोगों को संकटकालीन हेल्पलाइनों से अधिक विश्वसनीय रूप से जोड़ता है और कभी-कभी उपयोगकर्ताओं को लंबे या भावनात्मक रूप से चार्ज किए गए सत्रों के दौरान ब्रेक लेने के लिए प्रेरित करता है।

GPT-5 मानसिक-स्वास्थ्य संबंधी प्रश्नों का उत्तर कैसे देता है

OpenAI का आंतरिक परीक्षण दिखाता है। उत्पादन यातायात में, GPT-5 मॉडल जब उपयोगकर्ताओं ने मानसिक-स्वास्थ्य संकट के लक्षण प्रदर्शित किए तो पिछले संस्करणों की तुलना में 65-80 प्रतिशत कम असुरक्षित प्रतिक्रियाएँ उत्पन्न हुईं।

सैम अल्टमैन के नेतृत्व वाली कंपनी ने नोट किया कि स्वतंत्र चिकित्सकों द्वारा वर्गीकृत संरचित मूल्यांकन, GPT-5 ने अवांछनीय उत्तरों को 39 प्रतिशत से 52 प्रतिशत तक कम कर दिया। GPT-4o. स्वचालित परीक्षण ने इसे वांछित व्यवहार के अनुरूप 91-92 प्रतिशत स्कोर दिया, जो पुराने मॉडलों में 77 प्रतिशत या उससे कम था।

सिस्टम ने लंबी या जटिल बातचीत को भी अधिक विश्वसनीय तरीके से संभाला, मल्टी-टर्न संवादों में भी 95 प्रतिशत से अधिक स्थिरता बनाए रखी, जहां पहले के मॉडल अक्सर लड़खड़ा जाते थे।

चैटजीपीटी भावनात्मक लगाव से कैसे निपटता है

OpenAI जिस नई चुनौती का सामना कर रहा है वह है भावनात्मक निर्भरता, जब उपयोगकर्ता चैटबॉट से ही अस्वस्थ अनुलग्नक बनाते हैं। उस व्यवहार को पहचानने और मापने के लिए एक नई वर्गीकरण का उपयोग करते हुए, कंपनी का कहना है कि GPT-5 अब इन परिदृश्यों में 80 प्रतिशत कम समस्याग्रस्त उत्तर देता है, जो अक्सर उपयोगकर्ताओं को भावनात्मक निर्भरता को मान्य करने के बजाय मानवीय कनेक्शन की ओर ले जाता है।

फिर भी, OpenAI इन्हें स्वीकार करता है मानसिक-स्वास्थ्य वार्तालाप दुर्लभ हैं और सटीक मात्रा निर्धारित करना कठिन है। इतने कम प्रसार पर, एक प्रतिशत का अंश, यहां तक ​​​​कि छोटे बदलाव भी, परिणामों को विकृत कर सकते हैं। और विशेषज्ञ हमेशा इस बात पर सहमत नहीं होते हैं कि “सुरक्षित” कैसा दिखता है: मॉडल की प्रतिक्रियाओं की समीक्षा करने वाले चिकित्सक केवल 71-77 प्रतिशत मामलों में ही उसी निर्णय पर पहुंचे।