OpenAI ने अपने सोरा ऐप का उपयोग करके उपयोगकर्ताओं को सेलिब्रिटी डीपफेक बनाने से प्रतिबंधित कर दिया है। विशेष रूप से, नया ऐप पिछले महीने सोरा 2 मॉडल के साथ लॉन्च किया गया था। तब से, व्यक्तियों की अनुमति के बिना उनके यथार्थवादी डीपफेक बनाने के लिए एआई वीडियो ऐप का उपयोग किए जाने को लेकर व्यापक चिंताएं सामने आई हैं।
इसके बाद मामला सामने आया ब्रेकिंग बैड अभिनेता ब्रायन क्रैंस्टन ने उन उपयोगकर्ताओं के बारे में शिकायत की, जो उनकी सहमति के बिना उनकी शक्ल और आवाज को प्रदर्शित करने वाले वीडियो बना रहे थे। उन्होंने 170,000 से अधिक मीडिया पेशेवरों का प्रतिनिधित्व करने वाले अमेरिकी श्रमिक संघ SAG-AFTRA के साथ इस मुद्दे को उठाया।
क्रैन्स्टन ने मंगलवार को एक विज्ञप्ति में कहा, “मैं न केवल अपने लिए, बल्कि उन सभी कलाकारों के लिए बहुत चिंतित था, जिनके काम और पहचान का इस तरह से दुरुपयोग किया जा सकता है। मैं अपनी नीति और इसकी रेलिंग में सुधार के लिए ओपनएआई का आभारी हूं, और आशा करता हूं कि वे और इस काम में शामिल सभी कंपनियां हमारी आवाज और समानता की प्रतिकृति को प्रबंधित करने के हमारे व्यक्तिगत और व्यावसायिक अधिकार का सम्मान करती हैं।”
एसएजी-एएफटीआरए ने सोरा के व्यक्तियों के लिए बेहतर सुरक्षा की मांग करने के लिए क्रैन्स्टन और तीन अन्य प्रमुख प्रतिभा एजेंसियों- यूनाइटेड टैलेंट एजेंसी, क्रिएटिव आर्टिस्ट एजेंसी और एसोसिएशन ऑफ टैलेंट एजेंट्स के साथ हाथ मिलाया।
क्रैंस्टन के अलावा, के परिवार रॉबिन विलियम्सजॉर्ज कार्लिन और अन्य मृत हस्तियों ने भी शिकायत की है ओपनएआई सोरा ऐप में उपयोग की जा रही उनकी समानता के बारे में।
अपनी ओर से, ओपनएआई का कहना है कि उसके पास जीवित व्यक्ति की आवाज और समानता का उपयोग करने के लिए एक ऑप्ट-इन नीति है और अपने एआई वीडियो जनरेटर के माध्यम से ‘अनजाने पीढ़ियों’ के लिए खेद व्यक्त किया है। कंपनी का कहना है कि जब व्यक्ति विकल्प नहीं चुनते हैं तो वह आवाज और समानता की प्रतिकृति के आसपास रेलिंग को मजबूत कर रही है।
विशेष रूप से, सोरा का “कैमियो” फीचर उपयोगकर्ताओं को वीडियो में खुद का एक एआई अवतार जोड़ने की अनुमति देता है, जिसका उपयोग कई प्रसिद्ध हस्तियों के डीपफेक बनाने के लिए किया गया है। सोरा ऐप 30 सितंबर को लॉन्च होने के बाद से केवल इनवाइट के माध्यम से उपलब्ध है। यह बाद में एंड्रॉइड के लिए समर्थन के साथ आईओएस पर उपलब्ध है।
सोरा को लेकर प्रतिक्रिया कैसे शुरू हुई?
वर्तमान घोषणा से पहले, लोकप्रिय नागरिक अधिकार नेता की समानता का उपयोग करके आक्रामक, नस्लवादी और असभ्य वीडियो बनाने के लिए नए ऐप का उपयोग किए जाने के बाद, ओपनएआई को मार्टिन लूथर किंग जूनियर से संबंधित सामग्री को ब्लॉक करना पड़ा था। ओपनएआई अब ऐतिहासिक और सार्वजनिक हस्तियों के प्रतिनिधियों या संपत्ति मालिकों को यह अनुरोध करने की क्षमता भी देता है कि उनकी समानता का उपयोग सोरा पर एआई स्लोप के लिए नहीं किया जाए।