Openai ने घोषणा की है कि इसने कई CHATGPT खातों पर प्रतिबंध लगा दिया है जो सोशल मीडिया प्लेटफॉर्म पर एकत्र किए गए डेटा की बड़े पैमाने पर निगरानी के लिए उपकरण विकसित करने के लिए AI CHATBOT का उपयोग करने का प्रयास कर रहे थे। एआई स्टार्टअप ने कहा कि इसने एक उपयोगकर्ता पर प्रतिबंध लगा दिया है जो एक सरकारी ग्राहक द्वारा उपयोग के लिए एआई-संचालित सोशल मीडिया सुनने के उपकरण के लिए प्रचार सामग्री और परियोजना योजनाओं को डिजाइन करने में मदद करने के लिए चैट से पूछ रहा था। इस उपकरण को एक सोशल मीडिया “जांच” के रूप में वर्णित किया गया है, जो विशिष्ट चरमपंथी भाषण, और जातीय, धार्मिक और राजनीतिक सामग्री के लिए एक्स, फेसबुक, इंस्टाग्राम, रेडिट, टिकटोक और यूट्यूब जैसी सोशल मीडिया साइटों को स्कैन कर सकता है।
कंपनी का यह भी कहना है कि उसने एक अन्य खाते पर प्रतिबंध लगा दिया, जो एक सरकारी इकाई से जुड़े होने का संदेह है, जो “उच्च जोखिम वाले उइघुर-संबंधित इनफ्लो चेतावनी मॉडल” के लिए एक प्रस्ताव लिखने में मदद करने के लिए चैट का उपयोग कर रहा था। यह प्रस्ताव परिवहन बुकिंग का विश्लेषण करेगा और उइगर समुदाय द्वारा यात्रा आंदोलनों की शुरुआती चेतावनी प्रदान करने के लिए पुलिस रिकॉर्ड के साथ उनकी तुलना करेगा।
“पीआरसी एआई के अपने निरंकुश संस्करण को आगे बढ़ाने में वास्तविक प्रगति कर रहा है,” ओपनई रिपोर्ट में कहा।
कंपनी ने कहा, “इस उपयोग के कुछ तत्व ऑनलाइन या ऑफलाइन ट्रैफ़िक की बड़े पैमाने पर निगरानी का समर्थन करने के उद्देश्य से दिखाई दिए, इस स्थान पर संभावित सत्तावादी गालियों के लिए हमारे चल रहे ध्यान के महत्व को रेखांकित करते हुए,” कंपनी ने कहा।
विशेष रूप से, Openai के मॉडल चीन में आधिकारिक तौर पर उपलब्ध नहीं हैं, और कंपनी का कहना है कि इन उपयोगकर्ताओं ने अपनी वेबसाइट तक पहुंचने के लिए VPN का उपयोग किया हो सकता है।
Openai का कहना है कि इसने रूसी हैकर्स पर भी प्रतिबंध लगा दिया, जो एक रिमोट एक्सेस ट्रोजन और क्रेडेंशियल स्टीलर्स सहित मैलवेयर को विकसित करने और परिष्कृत करने के लिए अपने एआई मॉडल का उपयोग कर रहे थे।
कंपनी ने रिपोर्ट में कहा कि उसने देखा है कि लगातार खतरे वाले अभिनेताओं ने अपनी सामग्री से एआई के उपयोग के कुछ बेहतर-ज्ञात संकेतों को हटाने के लिए अपने व्यवहार को बदल दिया है, जैसे कि ईएम-डैश को हटाना।
सैन फ्रांसिस्को स्थित स्टार्टअप ने कहा कि चटपट लोगों को सही ढंग से घोटालों की पहचान करने में मदद करने के लिए उपयोग किया जा रहा है, क्योंकि इसका उपयोग खतरे के अभिनेताओं द्वारा घोटालों को उत्पन्न करने के लिए किया जा रहा है।
कंपनी ने कहा, “हमारा वर्तमान अनुमान है कि CHATGPT का उपयोग घोटालों की तुलना में तीन गुना अधिक बार तक की पहचान करने के लिए किया जा रहा है।”
फरवरी 2024 में अपने सार्वजनिक खतरे की रिपोर्टिंग की शुरुआत के बाद से, ओपनईई का कहना है कि यह बाधित हो गया है और 40 से अधिक नेटवर्क की सूचना दी है जिन्होंने इसकी उपयोग नीतियों का उल्लंघन किया है।
कंपनी ने यह भी नोट किया कि खतरे के अभिनेता मुख्य रूप से “मौजूदा वर्कफ़्लोज़ में एआई का निर्माण कर रहे हैं,” पूरी तरह से एआई के आसपास नए वर्कफ़्लो बनाने के बजाय।
“हमें नई रणनीति का कोई सबूत नहीं मिला या हमारे मॉडल ने खतरे वाले अभिनेताओं को उपन्यास आक्रामक क्षमताओं के साथ प्रदान किया। वास्तव में, हमारे मॉडल ने लगातार दुर्भावनापूर्ण अनुरोधों से इनकार कर दिया,” ओपनई ने कहा।