शंभू भद्र वरिष्ठ पत्रकार का लेख : डीप फ़ेक से निपटने की बड़ी चुनौती

हाल ही में अभिनेत्री रश्मिका मंदाना के डीप फेक वीडियो ने सभी का ध्यान खींचा है। आर्टिफिशियल इंटेलिजेंस का प्रयोग करके किसी की छवि खराब की जा सकती है। डीप फेक दुष्प्रचार और अफवाहों को तेज़ी से तथा एक व्यापक पैमाने पर फैलाने का नया विकल्प बनकर उभरा है। एल्गोरिद्म आधारित एआई की इस तकनीक के नया होने के कारण इस क्षेत्र के अपराधों की निगरानी करना तथा उन्हें नियंत्रित कर पाना सुरक्षा एजेंसियों के लिए एक बड़ी चुनौती बनना तय है। डीप फेक मीडिया सामग्री के निर्माण व इसके वितरण की चुनौती से निपटने के लिए आईटी क्षेत्र की कंपनियों, नागरिक समाज, नीति निर्माताओं तथा अन्य हितधारकों को चर्चा के माध्यम से इंटरनेट एवं सोशल मीडिया की विनियमन (रेगुलेशन) नीति की एक रूपरेखा तैयार करना चाहिए।

अभिनेत्री रश्मिका मंदाना के डीप फेक वीडियो ने एआई तकनीकों के अनियंत्रित प्रयोग के कारण इसके दुरुपयोग की ओर ध्यान खींचा है। असली व नकली के बीच अंतर को मिटाने वाली इस तकनीक के चलते दुष्प्रचार, छवि भंजन और अफवाहों को व्यापक रूप में फैलाना आसान हो गया है। इससे समाज में तनाव बढ़ सकता है। नफरत को हवा दी जा सकती है। किसी की छवि खराब की जा सकती है। किसी के नाम पर संदेश का दुरुपयोग किया सकता है। वैचारिक, राजनीतिक, सांप्रदायिक व जातीय ध्रुवीकरण बढ़ाया जा सकता है। चुनाव परिणामों को प्रभावित किया जा सकता है। डीप फेक दुष्प्रचार और अफवाहों को तेज़ी से तथा एक व्यापक पैमाने पर फैलाने का नया विकल्प बनकर उभरा है।

एल्गोरिद्म आधारित एआई की इस तकनीक के नया होने के कारण इस क्षेत्र के अपराधों की निगरानी करना तथा उन्हें नियंत्रित कर पाना सुरक्षा एजेंसियों के लिए एक बड़ी चुनौती बनना तय है। डीप फेक का मामला सबसे पहले वर्ष 2017 में सामने आया जब सोशल मीडिया साइट ‘रेडिट’ पर ‘डीप फेक’ नाम के एक अकाउंट पर इसके एक उपयोगकर्त्ता द्वारा कई मशहूर हस्तियों की आपत्तिजनक डीप फेक तस्वीरें पोस्ट की गईं। इस घटना के बाद से डीप फेक के कई अन्य मामले सामने आए हैं। डीप फेक तथ्यात्मक सापेक्षवाद (फैक्चुअल रिलेटिविज्म) को बढ़ावा देता है तथा यह अधिनायकवादी शासक को सत्ता में बने रहने, लोगों के दमन को सही ठहराने और उन्हें उनके अधिकारों से वंचित रखने में सहायक हो सकता है।

डीप सिंथेसिस

डीप सिंथेसिस को आभासी दृश्य बनाने के लिए पाठ, चित्र, ऑडियो और वीडियो उत्पन्न करने के लिए शिक्षा एवं संवर्द्धित वास्तविकता सहित प्रौद्योगिकियों के उपयोग के रूप में पारिभाषित किया गया है। प्रौद्योगिकी के सबसे खतरनाक अनुप्रयोगों में से एक डीप फेक है, जहां सिंथेटिक मीडिया का उपयोग एक व्यक्ति के चेहरे या आवाज़ को दूसरे व्यक्ति के लिए स्वैप/बदलने के लिए किया जाता है।

डीप फेक क्या है

डीप फेक, ‘डीप लर्निंग’ और ‘फेक’ का सम्मिश्रण है। इसके तहत डीप लर्निंग नामक एक कृत्रिम बुद्धिमत्ता या आर्टिफिशियल इंटेलिजेंस (एआई) सॉफ्टवेयर का उपयोग कर एक मौजूदा मीडिया फाइल (फोटो, वीडियो या ऑडियो) की नकली प्रतिकृति तैयार की जाती है। आर्टिफिशियल इंटेलिजेंस के एल्गोरिद्म का प्रयोग कर किसी व्यक्ति द्वारा बोले गए शब्दों, शरीर की गतिविधि या अभिव्यक्ति को दूसरे व्यक्ति पर इस सहजता के साथ स्थानांतरित किया जाता है कि यह पता करना बहुत ही कठिन हो जाता है कि प्रस्तुत फोटो/वीडियो असली है या डीप फेक। डीप फेक के माध्यम से किसी व्यक्ति, संस्थान, व्यवसाय और यहां तक कि एक लोकतांत्रिक व्यवस्था को भी कई प्रकार से क्षति पहुंचाई जा सकती है। डीप फेक के माध्यम से मीडिया फाइल में व्यापक हस्तक्षेप (जैसे-चेहरे बदलना, लिप सिंकिंग या अन्य शारीरिक गतिविधि) किया जा सकता है और इससे जुड़े अधिकांश मामलों में लोगों की पूर्व अनुमति नहीं ली जाती, जो मनोवैज्ञानिक, सुरक्षा, राजनीतिक अस्थिरता और व्यावसायिक व्यवधान का खतरा उत्पन्न करता है। डीप फेक तकनीक का उपयोग अब घोटालों और झांसे, सेलिब्रिटी पोर्नोग्राफी, चुनाव में हेर-फेर, सोशल इंजीनियरिंग, स्वचालित दुष्प्रचार हमले, पहचान की चोरी और वित्तीय धोखाधड़ी आदि जैसे नापाक उद्देश्यों के लिए किया जा रहा है। डीप फेक तकनीक का उपयोग पूर्व अमेरिकी राष्ट्रपति बराक ओबामा और डोनाल्ड ट्रंप, प्रधानमंत्री नरेंद्र मोदी आदि जैसे व्यक्तित्वों को प्रतिरूपित करने के लिए किया गया है।

महिलाओं के लिए खतरा

डीप फेक का दुरुपयोग बड़े पैमाने पर पोर्नोग्राफी के मामलों में देखा गया है जो भावनात्मक और व्यक्तिगत प्रतिष्ठा को क्षति पहुंचाने के साथ कुछ मामलों में व्यक्तिगत हिंसा को भी बढ़ावा देता है। डीप फेक पोर्नोग्राफी के अधिकांश मामलों में अपराधियों का लक्ष्य महिलाएं ही रही हैं, ऐसे में डीप फेक पीड़ित व्यक्ति को धमकाने, डराने और मनोवैज्ञानिक क्षति पहुंचाने हेतु प्रयोग किए जाने के साथ यह किसी महिला को यौन उपभोग की वस्तु के रूप में प्रस्तुत करता है।

राजनीतिक-सामाजिक चुनौतियां

डीप फेक जैसी तकनीकों के दुरुपयोग से राजनीतिक और सामाजिक अस्थिरता के साथ राष्ट्रीय सुरक्षा के लिए बड़ा खतरा उत्पन्न हो सकता है। सत्ता में सर्वोच्च पदों पर बैठे लोगों, भू-राजनीतिक आकांक्षा रखने वाले लोगों, हिंसक अतिवादियों या आर्थिक हितों से प्रेरित लोगों द्वारा डीप फेक के माध्यम से सार्वजनिक रूप से उपलब्ध सूचनाओं में हेर-फेर कर और गलत सूचनाओं के प्रसार से बड़े पैमाने पर अस्थिरता उत्पन्न की जा सकती है। उदाहरण के लिए वर्ष 2019 में अफ्रीकी देश ‘गैबाॅन गणराज्य’ में राजनीतिक और सैन्य तख्तापलट के एक प्रयास में डीप फेक के माध्यम से गलत सूचनाओं को फैलाया गया, इसी प्रकार ‘मलेशिया’ में भी कुछ लोगों द्वारा विरोधी राजनेताओं की छवि खराब करने के लिए डीप फेक का प्रयोग देखा गया। आतंकवादी या चरमपंथी समूहों द्वारा डीप फेक का प्रयोग राष्ट्र-विरोधी भावना फैलाने के लिए किया जा सकता है।

लोकतंत्र के लिए खतरनाक

डीप फेक लोकतांत्रिक संवाद को बदलने और महत्वपूर्ण संस्थानों के प्रति लोगों में अविश्वास फैलाने के साथ लोकतंत्र को कमज़ोर करने के प्रयासों को बढ़ावा दे सकता है। डीप फेक का प्रयोग चुनावों में जातिगत द्वेष, चुनाव परिणामों की अस्वीकार्यता या अन्य प्रकार की गलत सूचनाओं के लिए किया जा सकता है, जो एक लोकतांत्रिक व्यवस्था के लिए बड़ी चुनौती बन सकता है। इसके माध्यम से चुनावी प्रक्रिया शुरू होने के कुछ ही समय/दिन पहले विपक्षी दल या चुनावी प्रक्रिया के बारे में गलत सूचना फैलाई जा सकती है, जिसे समय रहते नियंत्रित करना और सभी लोगों तक सही सूचना पहुंचना बड़ी चुनौती होगी।

व्यक्तिगत प्रतिष्ठा को क्षति

डीप फेक का इस्तेमाल किसी व्यक्ति या संस्थान की पहचान और प्रतिष्ठा को क्षति पहुंचाने के लिये किया जा सकता है। ऐसे मामलों में यदि पीड़ित व्यक्ति फेक मीडिया को हटाने या स्थिति को स्पष्ट करने में सफल रहता है, तब भी इसके कारण हुई शुरुआती क्षति को कम नहीं किया जा सकेगा। डीप फेक का प्रयोग कई तरह के अपराधों जैसे-धन उगाही, निजी अथवा संवेदनशील जानकारी एकत्र करने या किसी अन्य हित को अनधिकृत तरीके से पूरा करने के लिए किया जा सकता है। एक अध्ययन के अनुसार, प्रतिवर्ष विभिन्न व्यवसायों के खिलाफ प्रसारित गलत सूचनाओं और फेक न्यूज़ के कारण वैश्विक अर्थव्यवस्था को लगभग 78 अरब यूएस डॉलर की क्षति होती है।

भारत पर क्या असर

वर्तमान में डीप फेक के रूप में चिह्नित अधिकांश मामले (लगभग 61%) अमेरिका और ब्रिटेन से संबंधित हैं, परंतु पिछले कुछ समय से दक्षिण कोरिया, जापान और भारत में भी ऐसे मामलों में तीव्र वृद्धि देखी गई है। पिछले कुछ वर्षों में भारत में नेट और सोशल मीडिया से जुड़ने वाले लोगों की संख्या में तीव्र वृद्धि हुई है। अभी भारत में करीब 80 करोड़ इंटरनेट उपयोगकर्ता हैं। देश में साइबर सुरक्षा संबंधी जागरूकता का अभाव साइबर अपराधों के प्रति लोगों को सुभेद्य बनता है।

क्या है कानूनी प्रावधान

भारत में डीप फेक तकनीक के इस्तेमाल के खिलाफ सीधे कोई कानूनी नियम नहीं हैं, लेकिन कई कानूनी कवच जरूर हैं। साइबर अपराधों के मामलों में वर्ष 2000 में पारित ‘सूचना प्रौद्योगिकी अधिनियम-2000’ तथा भारतीय दंड संहिता के प्रावधानों के तहत कार्रवाई की जा सकती है। साइबर अपराधों से निपटने के लिए वर्ष 2018 में केंद्रीय गृह मंत्रालय के तहत ‘भारतीय साइबर अपराध समन्वय केंद्र’ की स्थापना की गई। साइबर अपराधों से समन्वित और प्रभावी तरीके से निपटने के लिये ‘केंद्रीय इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय’ के तहत 'साइबर स्वच्छता केंद्र' भी स्थापित किया गया है। नागरिकों के व्यक्तिगत डेटा को सुरक्षा प्रदान करने के लिए दिसंबर 2019 में ‘व्यक्तिगत डेटा संरक्षण विधेयक, 2019’ लोकसभा में प्रस्तुत किया गया था जिसके बाद इसे स्थायी समिति के पास भेज दिया गया है। अब इसे राज्यसभा ने भी पारित कर दिया है। इसके अलावा प्राइवेसी एक्ट, डिफेमेशन एक्ट व कंज्यूमर प्रोटेक्शन एक्ट व कॉपीराइट एक्ट हैं। इस तकनीक के दुरुपयोग के संबंध में विशिष्ट कानूनों की मांग की जा सकती है, जिसमें कॉपीराइट उल्लंघन, मानहानि और साइबर अपराध आदि शामिल हों।

क्या है समाधान

रेगुलेशन : डीप फेक मीडिया सामग्री के निर्माण व इसके वितरण की चुनौती से निपटने के लिए आईटी क्षेत्र की कंपनियों, नागरिक समाज, नीति निर्माताओं तथा अन्य हितधारकों को चर्चा के माध्यम से इंटरनेट एवं सोशल मीडिया की विनियमन (रेगुलेशन) नीति की एक रूपरेखा तैयार की जानी चाहिए।

तकनीकी का प्रयोग: डीप फेक मीडिया सामग्री की पहचान करने, इसे प्रमाणित करने और इसके आधिकारिक स्रोतों तक पहुंच को सुलभ बनाने के लिए आसानी से उपलब्ध तथा उपयोग किए जा सकने वाले तकनीकी आधारित समाधान के विकल्पों को बढ़ावा दिया जाना चाहिए। स्टैनफोर्ड यूनिवर्सिटी और यूसी बर्कले के शोधकर्ताओं ने एक प्रोग्राम तैयार किया है जो कृत्रिम बुद्धिमत्ता का उपयोग कर डीप फेक वीडियो की पहचान कर सकता है। ‘डिटेक्टिंग डीप-फेक वीडियोज़ फ्रॉम फेनोम-विसेम मिसमैच’ नामक शीर्षक से प्रकाशित एक शोध के अनुसार, यह प्रोग्राम किसी मीडिया फाइल में लोगों की आवाज़ और उनके मुंह के आकार में सूक्ष्म भिन्नताओं के माध्यम से 80% मामलों में डीप फेक वीडियो की पहचान करने में सफल रहा।

साक्षरता और जागरूकता: उपभोक्ताओं और पत्रकारों के लिए मीडिया जागरूकता को बढ़ाना गलत सूचनाओं तथा डीप फेक जैसी चुनौतियों से निपटने का सबसे प्रभावी साधन/विकल्प है। वर्तमान समय में मीडिया साक्षरता एक विवेकशील समाज के लिए बहुत ही आवश्यक है। 

शंभू भद्र ( वरिष्ठ पत्रकार, ये उनके अपने विचार हैं ) 

यह भी पढ़ें -  Mahendragarh : खाली प्लाट में मिली नवजात बच्ची, पुलिस ने पहुंचाया अस्पताल