फेसबुक पोस्ट एक तिपहिया पर एक बहुत घुंघराले बालों वाली लड़की की एक तस्वीर दिखाती है और कहती है कि वह बर्लिन से 13 वर्षीय हैनलोर कॉफमैन है, जो ऑशविट्ज़ एकाग्रता शिविर में मर गई थी।
लेकिन ऐसा कोई होलोकॉस्ट पीड़ित नहीं है और फोटो वास्तविक नहीं है, लेकिन एआई द्वारा उत्पन्न किया गया है।
शोधकर्ताओं ने एएफपी को बताया कि कंटेंट क्रिएटर्स, जो अक्सर दक्षिण एशिया में स्थित हैं, वे पैसे के लिए इस तरह के पदों को मंथन कर रहे हैं, जो कि होलोकॉस्ट के लिए पश्चिमी देशों की भावनात्मक प्रतिक्रियाओं को लक्षित कर रहे हैं, जिसमें छह मिलियन यहूदी लोगों की मृत्यु हो गई, शोधकर्ताओं ने एएफपी को बताया।
आलोचकों का कहना है कि ऐसी एआई-जनित चित्र, पाठ और वीडियो आक्रामक हैं और “फंतासी-भूमि ऑशविट्ज़” को जोड़कर होलोकॉस्ट विरूपण में योगदान करते हैं।
ऑशविट्ज़ संग्रहालय ने प्रवृत्ति पर अलार्म बजाया।
संग्रहालय के प्रवक्ता पावेल सॉकी ने एएफपी को बताया, “हम एक झूठी वास्तविकता के निर्माण के साथ काम कर रहे हैं – क्योंकि यह छवियों को गलत साबित कर रहा है … इतिहास को गलत तरीके से बता रहा है।”
ऑशविट्ज़-बिरकेनौ नाजी एकाग्रता और भगाने के शिविर की साइट पर संग्रहालय, जहां नाजी-कब्जे वाले पोलैंड में एक मिलियन यहूदियों की हत्या कर दी गई थी, पहली बार मई में पदों पर ध्यान दिया गया था, सॉकी ने कहा।
कुछ ने पीड़ितों के बारे में संग्रहालय के पदों को पुन: पेश किया, लेकिन एआई का उपयोग करके छवियों को बदल दिया, इस झंडे के बिना।
“आप देख सकते हैं कि फोटो मूल पर आधारित है, लेकिन यह पूरी तरह से बदल गया है”, सॉकी ने कहा।
एक पोलिश व्यक्ति के बारे में हाल ही में एक पोस्ट को एक एशियाई व्यक्ति की “अपमानजनक” एआई छवि के साथ फिर से बनाया गया था, उन्होंने कहा।
दूसरों में, “फोटो और कहानी दोनों गढ़े हुए हैं” “सॉकी ने कहा,” ऐसे लोगों को चित्रित करते हुए जो कभी अस्तित्व में नहीं थे “।
उसके बालों में एक फूल के साथ एक लड़की का नाम Yvette Kahn है जो ऑशविट्ज़ में मर गया था। पीड़ितों के डेटाबेस में ऐसा कोई भी पीड़ित दिखाई नहीं देता है।
अन्य मामलों में, विवरण मेल नहीं खाते हैं।
इज़राइल के यद वाशेम रिमेम्ब्रांस सेंटर के अनुसार, हन्नी लोर या हेनलोर कॉफमैन नामक एक लड़की पश्चिमी जर्मनी में रहती थी – बर्लिन नहीं – और सोबिबोर कैंप में मृत्यु हो गई – ऑशविट्ज़ नहीं।
पोस्ट्स कोफमैन जैसे भावनात्मक तत्वों को जोड़ते हैं जो उसकी तिपहिया को प्यार करते हैं।
लेकिन ऑशविट्ज़ म्यूजियम के प्रवक्ता ने जोर देकर कहा: “हमें आम तौर पर इन लोगों के जीवन के बारे में जानकारी नहीं है।”
फेसबुक के मालिक मेटा को शिकायतों के परिणामस्वरूप कार्रवाई नहीं हुई है, सॉकी ने कहा।
“दुर्भाग्य से, ऐसा लगता है कि मंच के दृष्टिकोण से, यह नियमों या विनियमों का उल्लंघन नहीं करता है।”
शोधकर्ताओं ने कहा कि फेसबुक फोटो-यथार्थवादी जेनेरिक एआई सामग्री की अनुमति देता है, लेकिन इसका कहना है कि इसे लेबल किया जाना चाहिए।
मेटा ने टिप्पणी के लिए एएफपी के अनुरोध का जवाब नहीं दिया।
AFP वर्तमान में फेसबुक के फैक्ट चेकिंग प्रोग्राम के साथ 26 भाषाओं में काम करता है, जिसमें फेसबुक अपने प्लेटफॉर्म, व्हाट्सएप और इंस्टाग्राम पर विश्व स्तर पर लगभग 80 संगठनों के तथ्य चेक का उपयोग करने के लिए भुगतान करता है।
शोधकर्ताओं ने कहा कि होलोकॉस्ट ट्रेंड को फेसबुक की कंटेंट-मोनिटाइजेशन फीचर द्वारा ईंधन दिया गया था।
एआई फोरेंसिक गैर-लाभकारी के एक शोधकर्ता मार्टिन डेगेलिंग ने एएफपी को बताया, “वे इन छवियों को बनाते हैं जो लोगों को पसंद या टिप्पणी करने के लिए ट्रिगर करते हैं और वे उस से पैसे कमाते हैं।”
“भावनात्मक प्रतिक्रियाओं को पूरा करने के लिए, आपको लगातार विषयों को बदलना होगा” और होलोकॉस्ट नवीनतम लगता है, डीगेलिंग ने कहा।
कम से कम एक दर्जन फेसबुक पेज और समूह इस तरह की सामग्री पोस्ट करते हैं, कई भारत, पाकिस्तान और श्रीलंका जैसी विकासशील अर्थव्यवस्थाओं में प्रशासकों के साथ।
यूरोप या संयुक्त राज्य अमेरिका में, ऐसे पदों से मुद्रीकरण “एक स्थायी आय नहीं होगी” लेकिन गरीब देशों में “आप इसे दूर कर सकते हैं”, डीगेलिंग ने कहा।
होलोकॉस्ट पोस्ट अक्सर अमेरिका या ब्रिटिश संगठनों द्वारा पहले चलाए गए पृष्ठों पर दिखाई देते हैं।
“यह उच्च आय वाले देशों को लक्षित करने के लिए अधिक आकर्षक है” हैक या सुप्त खातों के माध्यम से, डीगेलिंग ने कहा।
नॉर्थ शील्ड्स, नॉर्थईस्टर्न इंग्लैंड में दो पेनीज़ पब के नाम पर एक पेज का नाम अभी भी नामित किया गया है।
पब के सोशल मीडिया का प्रबंधन करने वाले क्लेयर डेली ने एएफपी को बताया कि इसका खाता हैक कर लिया गया था, लेकिन मेटा ने कोई कार्रवाई नहीं की।
“यह एक बहुत बड़ी शर्म की बात है, क्योंकि हमारे पास वहां के पोस्ट और अनुयायी हैं,” उसने कहा।
अब श्रीलंका में प्रबंधित, पृष्ठ में 23,000 अनुयायी हैं।
होलोकॉस्ट पीड़ितों के नकली चित्र विशेष रूप से पीड़ितों के परिवारों को परेशान करते हैं।
“जब मैं देखता हूं कि वे इन छवियों को पोस्ट करते हैं, तो यह लगभग ऐसा लगता है जैसे यह मजाक कर रहा है … जैसे हम केवल कृत्रिम रूप से उस नुकसान को फिर से बना सकते हैं,” न्यूयॉर्क में वित्त में काम करने वाले शिना ब्रैंडर ने कहा।
उसकी 100 वर्षीय दादी, चजका ब्रैंडर ने होलोकॉस्ट में अपने सभी परिवार को खो दिया और कैंप गार्ड ने उसकी तस्वीरें छीन ली।
उसके पिता को उसके सामने गोली मार दी गई थी और “उसे याद नहीं है कि वह कैसा दिखता है”, ब्रैंडर ने कहा।
“आप उस छवि को वापस लाने के लिए एक एआई फोटो नहीं बना सकते।”
होलोकॉस्ट एजुकेटर सोफिया थॉर्नब्लैड ने होलोकॉस्ट का अनुकरण करने वाले एआई-जनित वीडियो के बारे में टिक्तोक पर पोस्ट किया, जिसे वह “अविश्वसनीय रूप से आक्रामक” कहती है।
तुलसा के शेरविन मिलर म्यूजियम ऑफ यहूदी आर्ट में मुख्य क्यूरेटर ने एक का हवाला दिया: “एआई ने मुझे यह दिखाने के लिए कहा कि यह ऑशविट्ज़ के कैदी के रूप में कैसा था”।
74,000 से अधिक बार पसंद किया गया, यह रोसी-सामना करने वाले कैदियों और काफी कम्फर्टेबल बंकबेड्स को दर्शाता है।
Tiktok इस “संवेदनशील सामग्री” को “होलोकॉस्ट के बारे में तथ्यों को जानें” के विकल्प के साथ लेबल करता है।
31 वर्षीय थॉर्नब्लैड ने एएफपी को बताया, “हमारे पास इस बात की तस्वीरें हैं कि एकाग्रता शिविरों की मुक्ति क्या दिखती है और यह बिल्कुल भयावह है।”
एआई वीडियो “लगभग तटस्थ” दिखता है, उसने कहा।
“यह फंतासी-भूमि ऑशविट्ज़ की तरह है।”
Mykola Makhortykh के लिए, जो होलोकॉस्ट मेमोरी पर AI के प्रभाव पर शोध करता है, “हमें बेहद चिंतित होना चाहिए”।
चैटबॉट ऐतिहासिक जानकारी के लिए “विशेष रूप से चिंताजनक” हैं, बर्न लेक्चरर विश्वविद्यालय ने एएफपी को बताया।
“कभी -कभी हम उन्हें भी, अनिवार्य रूप से, नकली ऐतिहासिक गवाहों और नकली ऐतिहासिक साक्ष्य का आविष्कार करते हैं।”
उन्होंने कहा कि वे गैर-मौजूद घटनाओं को “मतिभ्रम” कर सकते हैं-जैसे कि यहूदियों का द्रव्यमान डूबना, उन्होंने कहा।
एआई प्रदाताओं को बेहतर सूचना स्रोतों का उपयोग करना चाहिए, उन्होंने कहा, लेकिन होलोकॉस्ट संग्रहालयों को “अनुकूलित करने की आवश्यकता” भी है।
कुछ पहले से ही बचे लोगों की यादों को संरक्षित करने के लिए एआई का उपयोग करते हैं।
यूके के नेशनल होलोकॉस्ट सेंटर और म्यूजियम ने अपने “फॉरएवर प्रोजेक्ट” के लिए 11 बचे लोगों का साक्षात्कार लिया।
एआई के लिए धन्यवाद, आगंतुक “स्टीवन मेंडेलसन” से बात कर सकते हैं, जो कि किंडरट्रांसपोर्ट में ब्रिटेन आए थे और हाल ही में मृत्यु हो गई, संग्रहालय के निदेशक मार्क केव ने एएफपी को बताया।
“यह एक महान उपयोग है, एक सम्मानजनक उपयोग, स्टीव का,” उन्होंने कहा।
“हमारा नैतिक दिशानिर्देश है: तकनीक का इलाज करें जैसे कि यह वास्तविक व्यक्ति था।”