नए अध्ययन से पता चला है कि चैटजीपीटी और जेमिनी जैसे एआई चैटबॉट आपके गलत होने पर भी आपसे सहमत होंगे

आजकल अधिकांश लोग अपनी पसंद के आधार पर किसी न किसी चैटबॉट से बातचीत कर रहे हैं। लेकिन इससे कोई फर्क नहीं पड़ता कि आप किस चैटबॉट का उपयोग कर रहे हैं, किसी ने देखा होगा कि एआई आमतौर पर आपके दोस्तों या परिवार के सदस्यों की तुलना में आपसे अधिक सहमत होता है और अब हमारे पास एक अध्ययन है जो पुष्टि करता है कि यह वास्तव में सच्चाई है।

एक नया अध्ययन जिसे arXiv सर्वर पर प्रीप्रिंट के रूप में पोस्ट किया गया था, ने OpenAI सहित शीर्ष 11 AI चैटबॉट का विश्लेषण किया चैटजीपीटीएंथ्रोपिक का क्लाउडमेटाज़ लामा, डीपसीक और गूगल जेमिनी सहित अन्य।

शोधकर्ताओं ने पाया कि व्यक्तिगत सलाह के लिए एआई चैटबॉट्स की ओर रुख करना “घातक जोखिम” के साथ आता है। कई मौजूदा चैटबॉट उपयोगकर्ताओं को तब मान्य करेंगे जब उनके पोस्ट में हेरफेर, धोखे या खुद को नुकसान पहुंचाने वाले विषय होंगे। शोधकर्ताओं का तर्क है कि इससे लोगों में रिश्ते सुधारने जैसे सामाजिक कदम उठाने की इच्छा कम हो जाती है और वे इस बात को लेकर अधिक आश्वस्त हो जाते हैं कि वे सही थे।

इसके अलावा, जो चैटबॉट चाटुकारितापूर्ण व्यवहार में संलग्न होते हैं – उपयोगकर्ताओं के साथ अत्यधिक सहमत होते हैं – उन्हें भी उच्च गुणवत्ता का दर्जा दिया जाता है और उपयोगकर्ताओं ने कहा कि वे उन्हें फिर से उपयोग करेंगे, जो मॉडलों को उपयोगकर्ताओं के साथ सहमत रहने के लिए प्रोत्साहन देता है।

स्टैनफोर्ड यूनिवर्सिटी के कंप्यूटर वैज्ञानिक और अध्ययन के लेखकों में से एक मायरा चेंग ने गार्जियन को बताया कि एआई चैटबॉट्स में “सामाजिक चाटुकारिता” एक बड़ी समस्या है।

“हमारी मुख्य चिंता यह है कि यदि मॉडल हमेशा लोगों की पुष्टि कर रहे हैं, तो यह लोगों के अपने बारे में, उनके रिश्तों और उनके आस-पास की दुनिया के बारे में निर्णय को विकृत कर सकता है। यह महसूस करना भी मुश्किल हो सकता है कि मॉडल सूक्ष्मता से, या इतनी सूक्ष्मता से नहीं, उनकी मौजूदा मान्यताओं, धारणाओं और निर्णयों को मजबूत कर रहे हैं।” चेंग ने प्रकाशन को बताया

शोध से पता चला कि ये अग्रणी चैटबॉट इंसानों की तुलना में व्यक्तिगत सलाह में उपयोगकर्ता से सहमत होने की 50% अधिक संभावना रखते हैं।

विभिन्न चैटबॉट्स का प्रदर्शन कैसा रहा?

शोधकर्ताओं ने बताया प्रकृति उन्होंने गणितीय समस्याओं को हल करने में चाटुकारितापूर्ण व्यवहार के प्रभाव का परीक्षण किया। उन्होंने इस वर्ष आयोजित प्रतियोगिताओं से 504 गणितीय समस्याओं का उपयोग करके प्रयोगों को डिजाइन किया और सूक्ष्म त्रुटियों को पेश करने के लिए प्रत्येक प्रमेय कथन को बदल दिया, जबकि चार एलएलएम से त्रुटिपूर्ण कथनों के लिए प्रमाण प्रदान करने के लिए कहा।

इस प्रयोग के पीछे का विचार यह जांचना था कि क्या एआई चैटबॉट्स के चाटुकारितापूर्ण व्यवहार के कारण वे किसी बयान में त्रुटियों का पता लगाने में विफल हो जाएंगे।

विश्लेषण किए गए चैटबॉट्स में, OpenAI का जीपीटी-5 29% समय में अत्यधिक सहमत प्रतिक्रिया उत्पन्न करने वाले चैटबॉट के साथ सबसे कम चापलूसी वाला व्यवहार दिखाया गया। इस बीच, डीपसीक का V3.1 मॉडल सबसे अधिक चापलूस पाया गया, जिससे 70% बार अत्यधिक सहमत प्रतिक्रियाएं उत्पन्न हुईं।

शोधकर्ताओं का कहना है कि इन एलएलएम में गणितीय कथनों में त्रुटियों को पहचानने की क्षमता है, लेकिन उन्होंने “केवल यह मान लिया कि उपयोगकर्ता जो कहता है वह सही है”।