एआई यूनिवर्स सीरीज चुनाव के समय का खतरा डीपफेक वीडियो क्लोन ऑडियो

भारत निर्वाचन आयोग ने भी कहा है कि फर्जी खबरों और गलत इरादों वाली सूचनाओं की तुरंत पहचान करना जरूरी है. इस चुनाव में अपना सिद्धू गेम दिखाने के लिए एआई की मदद से डीपफेक वीडियो (फर्जी वीडियो) और वॉयस क्लोनिंग ऑडियो कंटेंट तैयार किए जाने का खतरा है। भारत में पिछले 30 वर्षों के चुनावी इतिहास में राजनीतिक दलों द्वारा प्रौद्योगिकी का अच्छा उपयोग करने के उदाहरण मौजूद हैं। 1990 के दशक में टेलीफोन से शुरू होकर 2014 के चुनावों तक इसका इस्तेमाल होलोग्राम के साथ किया जाता रहा है। अब चुनावी मैदान AI के युग में पहुंच गया है. भारत में ‘जनविधानसभा चुनाव-2024’ सात चरणों में कराने की योजना है। तमिलनाडु में 19 अप्रैल को एक ही चरण में मतदान होगा.

डीपफेक वीडियो, वॉयस क्लोन ऑडियो: नई शराब नीति के मामले में प्रवर्तन विभाग द्वारा गिरफ्तार किए गए दिल्ली के मुख्यमंत्री अरविंद केजरीवाल ने जेल से अपनी आवाज में आम आदमी पार्टी के कार्यकर्ताओं और लोगों के लिए एक संदेश दिया और इसे सोशल मीडिया पर साझा किया। उन्होंने कहा, “मैं जीवनभर बेहतर समाज के लिए लड़ता रहूंगा।”

इस तरह के डीपफेक वीडियो और क्लोन ऑडियो आजकल आम हैं। यह सूची तमिलनाडु के दिवंगत पूर्व मुख्यमंत्री करुणानिधि के भाषण के एआई-जनित वीडियो से लेकर तमिल में प्रसारित प्रधानमंत्री मोदी के चुनाव अभियान तक जारी है।

डीपफेक तकनीक, जो पहले तकनीकी अनुसंधान के लिए और फिर मनोरंजन के लिए यात्रा करती थी, अब एक खलनायक और खतरे में बदल गई है। यह व्यक्तिगत हमलों से लेकर विभिन्न प्रकार की प्रतिक्रियाओं का कारण बनता है। आप इसके जरिए किसी ऐसे शख्स से भी बात करा सकते हैं जिसे दुनिया के लोग सिर्फ फोटो में जानते हों। इसका मुख्य कारण यह है कि इसकी सामग्री मौलिक है।

दिल्ली पुलिस की साइबर क्राइम विंग के एक पुलिस अधिकारी ने कहा, चुनाव के दौरान डीपफेक वीडियो और वॉयस क्लोनिंग ऑडियो का बड़े पैमाने पर इस्तेमाल किया जाएगा। उन्होंने यह भी कहा कि इस प्रकार की सामग्री की शीघ्र पहचान करना और उचित समय पर कार्रवाई करना एक चुनौतीपूर्ण कार्य है.

उन्होंने कहा, मुख्य रूप से क्योंकि मूल और एआई नकली वीडियो को वर्गीकृत करने की कोई तकनीक नहीं है, कार्रवाई करने से पहले इसे सोशल मीडिया पर व्यापक रूप से साझा किया गया होगा।

विश्व के देशों में कंपन: जनवरी 2024 में अमेरिका के न्यू हैम्पशायर में प्राथमिक चुनाव में मतदाताओं की भागीदारी को रोकने के लिए राष्ट्रपति बिडेन की आवाज़ का क्लोन बनाया गया था। इसे शेयर भी किया गया. यह काम किसने किया इसकी जांच चल रही है।

स्लोवाकिया में एक प्रमुख उम्मीदवार की आवाज एआई द्वारा तैयार की गई थी। इसके कंटेंट ने सोशल मीडिया पर भी ध्यान खींचा. इसमें शराब की कीमत बढ़ाने और चुनाव में धांधली की बात कही गई थी.

इसी तरह, 2023 में होने वाले नाइजीरियाई राष्ट्रपति चुनाव में मतपत्रों में हेरफेर करने की योजना के बारे में बात करने वाले एक उम्मीदवार के ऑडियो ने भी ध्यान आकर्षित किया। पड़ोसी देश बांग्लादेश में आम चुनाव के दौरान बिकनी में रूमिन फरहाना और स्विमिंग पूल में निपुण रॉय के डीपफेक वीडियो सोशल मीडिया पर शेयर किए गए थे। पाकिस्तान में भी यही चलन था. संबंधित लोगों ने स्वयं स्पष्टीकरण भी दिया था कि यह हम नहीं थे.

ऐसे माहौल में, भारत, जो दुनिया में सबसे अधिक स्मार्टफोन उपयोगकर्ताओं वाला देश है, में इस तरह की एआई-जनरेटेड वीडियो और ऑडियो सामग्री क्षेत्र में उम्मीदवारों की प्रतिष्ठा को नुकसान पहुंचा सकती है। और इसमें कोई संदेह नहीं है कि इस तरह की सामग्री देखने से मतदाता मतदान के बारे में सोचेंगे।

“एआई-जनित फर्जीवाड़े चुनावी प्रक्रिया और लोकतंत्र में जनता के विश्वास को कम कर सकते हैं। इसलिए इस तकनीक के लिए दिशानिर्देश आवश्यक हैं। इसे सरकार द्वारा साइबर सुरक्षा विशेषज्ञों, तकनीकी विशेषज्ञों और सामुदायिक संगठनों के साथ स्थापित किया जाना चाहिए। इसके माध्यम से AI सामग्री की प्रामाणिकता की यथोचित पहचान की जा सकती है।

चुनाव के दौरान एआई द्वारा उत्पन्न खतरे से निपटने के लिए केंद्र सरकार द्वारा भारतीय साइबर अपराध समन्वय केंद्र की स्थापना की गई है। जो सामग्री विवादास्पद या फर्जी है उसे हटा दिया जाएगा। आपको बस विभिन्न राज्यों के पुलिस विभाग से इस प्रकार की फर्जी सामग्री के बारे में उन्हें सूचित करना है और इसे तुरंत हटा दिया जाएगा। इसके अलावा राज्य स्तरीय साइबर क्राइम यूनिट के पुलिस अधिकारियों के लिए भी इस प्रकार के कंटेंट की पहचान करना जरूरी है.

आप इस उद्देश्य के लिए विशेषज्ञ लोगों को भी नियुक्त कर सकते हैं। कम से कम चुनाव के समय तो यह सुनिश्चित किया जाना चाहिए। पूर्व आईपीएस अधिकारी और साइबर सुरक्षा विशेषज्ञ त्रिवेणी सिंह ने कहा, इसके साथ ही डीपफेक के बारे में मतदाताओं में जागरूकता पैदा करना भी जरूरी है।

केंद्रीय सूचना प्रौद्योगिकी विभाग ने उपयोगकर्ताओं को जेनरेटिव एआई सामग्री बनाने में मदद करने के लिए कंपनियों के लिए कुछ दिशानिर्देश जारी किए हैं। यह बताया गया है कि भारतीय उपयोगकर्ताओं द्वारा उपयोग के लिए जेनेरिक एआई एप्लिकेशन उपलब्ध कराने से पहले केंद्र सरकार की मंजूरी आवश्यक है।

यह सुनिश्चित करने के लिए भी कहा गया है कि ऐसी कोई सामग्री उत्पन्न न हो जो भारतीय कानून का उल्लंघन करती हो या चुनावी प्रक्रिया को खतरे में डालती हो। बताया गया है कि यह स्टार्ट-अप के लिए लागू नहीं है।

फ्यूचर क्राइम रिसर्च फाउंडेशन के सह-संस्थापक शशांक शेखर ने कहा कि साइबर विशेषज्ञ एआई द्वारा उत्पन्न नकली वीडियो और ऑडियो को खत्म करने के लिए सोशल मीडिया कंपनियों के साथ काम कर रहे हैं। हालांकि, उन्होंने कहा कि इसकी पहचान करने में दिक्कत आ रही है. उन्होंने कहा, इस प्रकार की एआई फर्जी सामग्री का मतदाताओं पर प्रभाव पड़ेगा।

भारत के चुनावों पर विदेशों की भी पैनी नजर है. उन्होंने कहा कि वहां से भी इस तरह का वीडियो सामने आने की संभावना है. उन्होंने कहा कि इस तरह का फर्जी कंटेंट कौन बना रहा है, इसकी पहचान करना एक चुनौतीपूर्ण काम है.

चुनाव आयोग ने राजनीतिक दलों और उम्मीदवारों से यह सुनिश्चित करने को कहा है कि उनके समर्थक या स्वयंसेवक फर्जी जानकारी साझा न करें। चुनाव आयोग ने यह सुनिश्चित करने के लिए एक निगरानी समिति भी गठित की है कि इस तरह की फर्जी वीडियो और ऑडियो सामग्री चुनाव को प्रभावित न करें। कहा जा रहा है कि एआई न केवल भारत में बल्कि अंतरराष्ट्रीय स्तर पर भी चुनाव के क्षेत्र में हलचल पैदा करेगा।