केन्द्रीय रेल और सूचना प्रोद्यौगिकी मंत्री अश्विनी वैष्णव ने डीपफेक पर बढ़ती चिंताओं पर कहा है कि इन्हें रोकने के लिए केंद्र सरकार नया क़ानून लाएगी या पुराने क़ानून में संशोधन करेगी। उन्होंने ऐसे वीडियो बनाने वालों पर कार्रवाई की भी बात की है।
केन्द्रीय मंत्री अश्विनी वैष्णव ने आज (23 नवंबर, 2023) को डीपफेक के बढ़ते मामलों को देखते हुए सोशल मीडिया प्लेटफॉर्म्स, नैस्कॉम समेत इस मामले से जुड़े अन्य लोगों के साथ बैठक के बाद यह बातें कहीं। गौरतलब है कि बीते कुछ समय में डीपफेक से जुड़े कई मामले सामने आए हैं।
हाल ही में अभिनेत्री रश्मिका मंदाना की एक वीडियो वायरल हुआ था जिसे डीपफेक के जरिए बनाया गया था। रश्मिका के अलावा कैटरिना कैफ, काजोल और सचिन तेंदुलकर की बेटी सारा तेंदुलकर भी इसका शिकार बन चुकी हैं। डीपफेक के जरिए इन मशहूर लोगों के चेहरे दूसरी अभिनेत्रियों या मॉडल के ऊपर लगाए गए थे।
इसको लेकर बढ़ती चिंता को देखते हुए केन्द्रीय आईटी मंत्री अश्विनी वैष्णव ने एक बैठक बुलाई थी। इसके पश्चात उन्होंने कहा, “डीपफेक लोकतंत्र के लिए एक नए खतरे के तौर पर उभरा है। यह समाज और इसकी संस्थाओं में विश्वास को कमजोर कर सकते हैं।” उन्होंने 10 दिनों के भीतर इस मसले पर एक्शन लेने की बात की है।
केन्द्रीय मंत्री अश्विनी वैष्णव ने कहा, “सभी सोशल मीडिया प्लेटफार्म से यह अपील की गई है कि वह अपने तकनीक का उपयोग करके डीपफेक पर नियंत्रण करें।” उन्होंने कहा कि डीपफेक सोशल मीडिया के जरिए तेजी से फैलते हैं और इनकी जाँच भी नहीं हो पाती है। उन्होंने समाज और लोकतंत्र में विश्वास को बनाए रखने के लिए ऐसे मामलों पर जल्दी एक्शन लेने की आवश्यकता बताई।
बता दें कि हाल ही में इस तकनीक के गलत इस्तेमाल को लेकर अब प्रधानमंत्री नरेंद्र मोदी ने भी चिंता जाहिर की थी। पीएम मोदी ने शुक्रवार (17 नवंबर, 2023) को डीपफेक के दुरुपयोग को चिह्नित किया और कहा कि मीडिया को इस संकट के बारे में लोगों को शिक्षित करना चाहिए।
बीते दिनों में इन डीपफेक वीडियो की संख्या में बढ़ोतरी देखी गई है। रश्मिका मंदाना का चेहरा जहाँ एक ब्रिटिश मॉडल ज़ारा पटेल के चेहरे पर लगाया गया तो वहीं काजोल का कपड़े बदलते हुए वीडियो बनाया गया था। सारा तेंदुलकर की फोटो में उनके भाई अर्जुन की जगह भारतीय क्रिकेटर शुभमन गिल का चेहरा लगा दिया गया था।
अब इन डीपफेक के मुद्दे को लेकर अगली मीटिंग दिसम्बर माह में की जाएगी जहाँ इस पर एक्शन के लिए आगे की रणनीति बनाई जाएगी। केन्द्रीय मंत्री वैष्णव ने कहा कि इन डीपफेक वीडियो में अब वॉटरमार्क और लेबल तोड़ने का भी विकल्प आ गया है इसलिए इन्हें पहचानना बहुत मुश्किल हो गया है।
डीपफेक क्या होता है?
डीपफेक तकनीक से वीडियो बनाना एक लम्बी प्रक्रिया है। सबसे पहले जिन दो लोगों के चेहरे आपस में बदले जाने हैं उनके हजारों फोटो वीडियो ‘एनकोडर’ नाम के एक AI आधारित प्रोग्राम पर चलाए जाते हैं। यह तकनीक इन दो चेहरों की समानताएँ परखती है। इसके बाद यह तकनीक इन चेहरों को केवल उनकी समानताओं के आधार पर सीमित कर देती है और एक कंप्रेस्ड इमेज बनाती है।
इसके पश्चात एक और AI तकनीक ‘डीकोडर’ से चेहरा तलाशने को कहा जाता है। आसान भाषा में समझे तो इनकोडर को ‘A’ का चेहरा पढ़ने के लिए तैयार किया जाता और डीकोडर को ‘B’ का चेहरा पढ़ने के लिए तैयार किया जाता है। इसके पश्चात दोनों मशीनों से यह चेहरा बनाने को कहा जाता है लेकिन इस स्थिति में इनकोडर को B का और डीकोडर को A का चेहरा बनाने को कहा जाएगा। ऐसे में मान लीजिए कि B उस फोटो में रो रहा है तो नई फोटो में A रोता हुआ दिखेगा।
इसके अलावा एक अन्य तकनीक जिसका नाम ‘जनरेटिव एड्वर्सियल नेटवर्क’ (GAN) है उसके जरिए भी बनाई जाती हैं। इसमें एक गड़बड़ तस्वीर और एक सही तस्वीर डाली जाती है। AI तकनीक इन दोनों के कोड डिकोड करके फोटो को आपस में मिलाती है। इसमें समय लगता है।
