अहमदाबाद, 15 अप्रैल (भाषा) गुजरात उच्च न्यायालय ने डीपफेक वीडियो और तस्वीरें बनाने और प्रसारित करने में कृत्रिम बुद्धिमत्ता (एआई) के दुरुपयोग को रोकने के लिए एक मजबूत नियामक तंत्र तैयार करने की मांग वाली जनहित याचिका पर प्रौद्योगिकी कंपनियों मेटा इंडिया, गूगल, एक्स, रेडिट और स्क्रिब्ड को नोटिस जारी किया है।
उन्हें 8 मई को वापस करने योग्य नोटिस जारी करते हुए, मुख्य न्यायाधीश सुनीता अग्रवाल और न्यायमूर्ति डीएन रे की खंडपीठ ने प्रतिवादी मध्यस्थों को यह सुनिश्चित करने का भी निर्देश दिया कि सूचना प्रौद्योगिकी अधिनियम, 2000 के नियमों के प्रावधानों के कड़ाई से अनुपालन में गैरकानूनी सामग्री को हटाने से संबंधित बेहतर समन्वय और समयबद्ध कार्रवाई के लिए उन्हें सहयोग पोर्टल पर लाया जाए।
अदालत ने हाल ही में पारित और इस सप्ताह उपलब्ध कराए गए एक आदेश में कहा, “प्रतिवादी मध्यस्थों की प्रभावी और सार्थक प्रतिक्रियाएं/कार्रवाई वैधानिक ढांचे के तहत उन पर लागू किए गए उचित परिश्रम दायित्वों की कुंजी होगी।”
अपने हलफनामे में, केंद्र और गुजरात सरकारों ने अदालत को लगातार देरी, बार-बार प्रक्रियात्मक दायित्वों और कुछ तकनीकी प्लेटफार्मों द्वारा उन्हें जारी किए गए कानूनी नोटिसों का अनुपालन न करने के बारे में सूचित किया।
पिछली सुनवाई के दौरान जारी नोटिस के जवाब में अपने हलफनामे में, केंद्र ने अदालत को सूचित किया कि अक्टूबर 2024 में उसने सभी अधिकृत कानून प्रवर्तन एजेंसियों और मध्यस्थों को एक मंच पर लाकर गैरकानूनी सामग्री के खिलाफ तत्काल, समन्वित और समयबद्ध कार्रवाई की सुविधा के लिए सहयोग पोर्टल बनाया।
इसमें कहा गया है कि इसका उद्देश्य गैरकानूनी कृत्रिम रूप से उत्पन्न जानकारी को तेजी से हटाना और आपत्तिजनक उपयोगकर्ताओं की पहचान के लिए ग्राहकों की जानकारी, लॉग और न्यायिक साक्ष्य तक पहुंच बनाना है।
केंद्रीय गृह मंत्रालय (एमएचए) ने अदालत को सूचित किया कि मेटा और गूगल जैसे कुछ मध्यस्थों ने अनुपालन कार्यों की गति, दक्षता और पता लगाने की क्षमता में काफी सुधार किया है, लेकिन अन्य अभी तक सहयोग पोर्टल पर शामिल नहीं हुए हैं या पूरी तरह से एकीकृत नहीं हुए हैं।
इसमें विशेष रूप से सिंथेटिक रूप से उत्पन्न जानकारी सहित गैरकानूनी सामग्री के संबंध में दी गई सूचनाओं के प्रति एक्स की गैर-प्रतिक्रिया का उल्लेख किया गया है।
मंत्रालय ने अदालत को बताया कि 2024 और 2026 के बीच एक्स को कृत्रिम रूप से उत्पन्न जानकारी सहित गैरकानूनी सामग्री रखने के लिए कुल 94 सूचनाएं दी गईं, लेकिन केवल 13 सूचनाओं के खिलाफ औपचारिक प्रतिक्रिया प्राप्त हुई।
“हालांकि प्रतिवादी नंबर 7 मध्यस्थ (एक्स) द्वारा 2024 में 788 अधिसूचित यूआरएल, 2025 में सत्तर और 2026 में छह को अक्षम करने में आंशिक कार्रवाई की सूचना दी गई है, लेकिन औपचारिक प्रतिक्रियाओं की चिंताजनक कम दर के परिणामस्वरूप कानूनी रूप से जारी निर्देशों के साथ सार्थक सहयोग की कमी होती है।”
“इस तरह का आचरण न केवल 2026 के संशोधित आईटी नियमों के तहत मध्यस्थों पर बढ़ाए गए उचित परिश्रम दायित्वों का उल्लंघन है, बल्कि गैरकानूनी सामग्री को समय पर हटाने या पहुंच को अक्षम करने और प्रभावी जांच करने के लिए कानून प्रवर्तन एजेंसियों की क्षमता को भी गंभीर रूप से बाधित करता है,” एमएचए ने एचसी को बताया।
जनहित याचिका में, याचिकाकर्ता विकास नायर ने डिजिटल प्लेटफॉर्म पर एआई-जनरेटेड वीडियो के व्यापक निर्माण और प्रसार से संबंधित मुद्दों पर प्रकाश डाला है, जिसके बारे में उनका कहना है कि यह सार्वजनिक व्यवस्था और स्वस्थ लोकतंत्र के कामकाज के लिए एक गंभीर खतरा है।
उन्होंने डीपफेक/सिंथेटिक/डिजिटल रूप से हेरफेर की गई मीडिया एआई जनित सामग्री के खिलाफ विशिष्ट कानून या नियामक तंत्र तैयार करने में सरकार की निष्क्रियता के बारे में भी मुद्दे उठाए।
उन्होंने कहा कि भारत में मौजूदा कानूनी ढांचा, जिसमें सूचना प्रौद्योगिकी अधिनियम, 2000 और भारतीय न्याय संहिता के तहत संबंधित प्रावधान शामिल हैं, डिजिटल प्लेटफार्मों पर नकली और एआई-जनित वीडियो के निर्माण, प्रसार और प्रसार को प्रभावी ढंग से विनियमित करने के लिए अपर्याप्त हैं।
याचिकाकर्ता ने उच्च न्यायालय से प्रतिवादी सरकार को फर्जी वीडियो और तस्वीरें बनाने और प्रसारित करने में एआई के दुरुपयोग को रोकने के लिए एक व्यापक और मजबूत नियामक तंत्र तैयार करने का निर्देश देने की मांग की।
जनहित याचिका में तर्क दिया गया कि ऐसे एआई डीपफेक के निर्माण और उपयोग पर अंकुश लगाने की तत्काल आवश्यकता है, जो तुरंत सामाजिक ताने-बाने में प्रवेश करते हैं और प्रभाव पैदा करते हैं जिससे अपरिवर्तनीय स्थितियां पैदा होती हैं।
इसमें कहा गया है कि तेजी से विकसित हो रही प्रौद्योगिकी को विनियमित करने के लिए कानून बनाने की जरूरत है।
उच्च न्यायालय ने 24 फरवरी को गुजरात सरकार के साथ-साथ केंद्र (गृह मंत्रालय और इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय) को नोटिस जारी किया था और इस मुद्दे पर उनकी प्रतिक्रिया मांगी थी।
अपने हलफनामे में, राज्य सरकार ने कहा कि व्यवहार में, बिचौलियों को जारी किए गए वैध नोटिस में लगातार देरी, बार-बार प्रक्रियात्मक दायित्वों और कुछ प्लेटफार्मों द्वारा गैर-अनुपालन का सामना करना पड़ता है।
“कुछ मामलों में, कारण बताओ नोटिस जारी करने, कानूनी प्रावधानों और हटाने के आधारों को दोहराने के बाद भी, मध्यस्थ कोई ठोस जवाब देने में विफल रहते हैं और आपत्तिजनक सामग्री को नहीं हटाते हैं। इसके परिणामस्वरूप वैध अधिसूचना के बावजूद गैरकानूनी सामग्री की सार्वजनिक उपलब्धता जारी रहती है।”
राज्य ने जांच प्राधिकरण और डिजिटल सेवा प्रदाताओं के बीच तत्काल समन्वय तंत्र को अनिवार्य करते हुए एक मजबूत नियामक ढांचे का सुझाव दिया, जैसे कि बिचौलियों के लिए समर्पित और त्वरित प्रतिक्रिया समयसीमा, प्रवर्तन एजेंसियों और बिचौलियों, इंटरनेट सेवा प्रदाताओं और होस्टिंग प्लेटफार्मों के बीच वास्तविक समय समन्वय और संचार का प्रावधान; वगैरह।