Deepfakes & Law : न्यूजीलैंड की महिला सांसद ने खुद की न्यूड AI फोटो संसद में दिखाकर दुनियाभर में नई बहस छेड़ दी!
AI तकनीक से बनी फोटो पर कानून नहीं होने से महिला सांसद नाराज! जानिए, भारत में डीपफेक को लेकर क्या है कानून!
‘मीडियावाला’ के स्टेट हेड विक्रम सेन से जानिए डीपफेक को लेकर विस्तृत जानकारी
न्यूजीलैंड की महिला सांसद लॉरा मैक्लर ने पिछले दिनों संसद में आर्टिफिशियल इंटेलिजेंस (AI) से खुद की बनाई गई अपनी न्यूड तस्वीर दिखाकर सबको चौंका दिया। उन्होंने दावा किया कि यह पिक्चर गूगल सर्च के जरिए मिले एक ऑनलाइन टूल एआई की मदद से सिर्फ पांच मिनिट में बनाई है। इस तरह किसी की भी छवि को पल भर में खराब किया जा सकता है। उनकी इस पूरी कवायद का मकसद AI तकनीक के दुरुपयोग और इसके खतरों को उजागर करना था।
सांसद मैकक्लर ने जो वेबसाइट खोजी, वह ऐसी ही सैकड़ों साइटों में से एक थी, जहां लोग किसी की फोटो अपलोड कर सकते हैं और किसी छवि या वीडियो को ‘नग्न’ कर सकते हैं। उनमें से कई लोगों के लिए बस एक बॉक्स पर टिक करना होता है, जिसमें लिखा होता है कि आपकी उम्र 18 वर्ष से अधिक है, तथा आपके पास फोटो में मौजूद व्यक्ति की सहमति है। हालाँकि, अधिकतर मामलों में सहमति नहीं दी जाती। संसद में सांसद द्वारा नग्न पिक्चर दिखाने के मामले ने पूरी दुनिया मे नए सिरे से बहस छेड़ दी।
न्यूजीलैंड की संसद की यह घटना पिछले माह की है, जो अब इंटरनेट पर अब वायरल हो रही है। लॉरा ने AI से बनी अपनी न्यूड तस्वीर दिखाते हुए कहा कि यह मेरी न्यूड फोटो है, लेकिन यह AI जेनरेटेड है। मुझे इस डीप फेक फोटो को तैयार करने में 5 मिनट भी नहीं लगे। उनका मकसद लोगों को ये बताना था कि ऐसी फर्जी तस्वीरें बनाना कितना आसान है और ये कितना खतरनाक हो सकता हैं। उन्होंने यह भी साफ किया कि वह AI के खिलाफ नहीं हैं। उन्होंने कहा कि समस्या तकनीक में नहीं, बल्कि उसके गलत इस्तेमाल में है। हमें इस समस्या का हल निकालना ही होगा।
सांसद लॉरा मैक्लर ने अपनी AI-जेनरेटेड तस्वीर के जरिए डीपफेक को लेकर बड़ी बहस शुरू कर दी। इसका असर न्यूजीलैंड पर ही नहीं बल्कि पूरी दुनिया पर पड़ेगा। न्यूजीलैंड में मौजूदा वक्त में डीपफेक को विशेष रूप से नियंत्रित करने वाला कोई डायरेक्ट कानून नहीं है। हालांकि, खतरनाक डिजिटल सामग्री से संबंधित कुछ नियम मौजूद जरूर हैं। न्यूजीलैंड लॉ एसोसिएशन के अनुसार, 95% डीपफेक वीडियो गैर-सहमति से बनाए गए अश्लील कंटेंट हैं, जिनमें 90% महिलाओं को दर्शाते हैं।
इसके पीछे न्यूजीलैंड की सांसद का मकसद
लॉरा डीप फेक डिजिटल हार्म एंड एक्सप्लॉइटेशन कानून का समर्थन कर रही हैं, जो रिवेंज पोर्न और निजी रिकॉर्डिंग से जुड़े मौजूदा कानूनों को अपडेट करेगा। इस कानून के तहत बिना मर्जी के डीप फेक बनाना या शेयर करना कानूनन अपराध होगा। इस बारे में जानकारों का कहना है कि डीपफेक वीडियो या तस्वीरों की सबसे ज्यादा शिकार महिलाएं होती हैं और इसे बिना मर्जी के ही बना कर वायरल किया जाता है। लॉरा के कदम से यह अब पूरी दुनिया में बहस का मुद्दा बन गया है कि कितनी आसानी से चंद मिनटों में किसी के भी डीपफेक बनाए जा सकते हैं। इसे लेकर लॉरा मैक्लर का कहना है कि किसी का भी डीप फेक पोर्न बनाना साफ-साफ उत्पीड़न है और कानूनों को अपडेट करके इसे रोका जा सकता है। लॉरा जिस तस्वीर को संसद में लेकर आई थी, भले ही वो डीपफेक थी। लेकिन वे इसे ब्लर यानी धुंधली करके लाई थी। सोशल मीडिया पर इस घटना की काफी चर्चा हो रही है।
सेलिब्रिटी के डीपफेक कंटेंट
विदेशों में विदेशों में टीवी, रेडियो और ऑनलाइन स्ट्रीमिंग सेवाओं के लिए ब्रिटेन का नियामक प्राधिकरण कहता है कि जिन लोगों ने कहा है कि उन्होंने यौन डीपफेक देखा है, उनमें से 64% का कहना है कि यह किसी सेलिब्रिटी या सार्वजनिक व्यक्ति का था। 15% का कहना है कि यह किसी ऐसे व्यक्ति का था जिसे वे जानते थे। जबकि, 6% का कहना है कि यह खुद को दर्शाता है। चिंताजनक बात यह है कि 17% लोगों का मानना था कि इसमें 18 वर्ष से कम आयु के किसी व्यक्ति को दर्शाया गया है। इससे यह भी सुनिश्चित होगा कि पीड़ितों को निवारण पाने तथा हानिकारक सामग्री को हटाने के लिए स्पष्ट रास्ता मिलेगा।
ब्रिटेन और अमेरिका में क्या स्थिति
ब्रिटेन सरकार इस प्रथा पर नकेल कस रही है। रिवेंज पोर्न हेल्पलाइन के आंकड़ों का हवाला देते हुए, जिसमें दिखाया गया है कि डीपफेक का उपयोग करके छवि-आधारित दुर्व्यवहार 2017 के बाद से 400% से अधिक बढ़ गया है। सरकार द्वारा शुरू किए जाने वाले नए अपराध के तहत, अपराधियों पर इन चित्रों को बनाने और साझा करने के लिए आरोप लगाया जा सकता है और मुकदमा चलाया जा सकता है।
मई में अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प ने टेक इट डाउन एक्ट पर हस्ताक्षर किए, जो किसी व्यक्ति की सहमति के बिना उसकी अंतरंग तस्वीरों को प्रकाशित करना अपराध बनाता है और पीड़ितों के अनुरोध पर सोशल मीडिया प्लेटफार्मों को 48 घंटे के भीतर ऐसी तस्वीरों को हटाने के लिए बाध्य करता है।
सांसद मैकक्लर को उम्मीद है कि न्यूजीलैंड, अमेरिका और ब्रिटेन के नक्शे कदम पर चल सकता है। उन्होंने कहा कि उनका विधेयक कोई बोझिल कानून नहीं है। वे कहती हैं, यह डीपफेक खामियों को दूर करने के लिए अपराध अधिनियम और हानिकारक डिजिटल संचार अधिनियम में कुछ अतिरिक्त पंक्तियां जोड़ने के समान है। लेकिन, वह निराशा के साथ बताती हैं कि फिलहाल, ऐसा लगता है कि उनका बिल कहीं नहीं जाएगा। उन्होंने इसे संसद के सदस्यों के मतपत्र में डाल दिया है, जहां यह लगभग 40 अन्य बिलों के साथ रखा जाएगा, जिन्हें सदन में बहस के लिए यादृच्छिक रूप से चुना जाएगा।
यह वर्षों तक वहां अछूता पड़ा रह सकता है। अथवा इसे सरकारी विधेयक के रूप में अपनाया जा सकता है और किसी भी समय किसी मंत्री द्वारा संसद में पारित कराया जा सकता है। इसके लिए बस इतना ही काफी है कि ट्रेजरी बेंच पर कोई व्यक्ति इस पर सहमति जताए, लेकिन इस स्तर पर ऐसा होना संभव नहीं दिखता।
इस मामले पर न्यूजीलैंड के प्रवक्ता ने कहा कि सरकार फिलहाल इस पर विचार नहीं कर रही है। भारत में इनके अलावा AI जेनरेटेड डीपफेक की पहचान के लिए रिवर्स मशीन लर्निंग AI भी तैयार किया जा रहा है, जिससे डीपफेक की जांच करना और आसान हो जाएगा। साथ ही, डीपफेक कॉन्टेंट शेयर करने वाले अपराधियों के लोकेशन को भी ट्रैक करने में सुविधा होगी।
भारत में डीपफेक कंटेंट का इस्तेमाल कितना
डीपफेक कंटेंट का इस्तेमाल साइबर फ्रॉड और अफवाह फैलाने के लिए किया जाता है। AI जेनरेटेड कॉन्टेंट को यूजर सच मान लेते हैं और फिर उसके शिकार हो जाते हैं। McAfee द्वारा हाल में किए गए सर्वे के मुताबिक, 2023 के मुकाबले 80% से ज्यादा लोग अब डीपफेक की वजह से चिंतित हैं। वहीं, करीब 64% लोगों का कहना है कि AI द्वारा होने वाले साइबर फ्रॉड में असली और नकली की पहचान बेहद मुश्किल है। हालांकि, इस सर्वे में भाग लेने वाले 30% लोगों का कहना है कि वो AI जेनरेटेड कॉन्टेंट की पहचान करने में सक्षम हैं।
भारत में डीपफेक को लेकर क्या कहता है कानून
भारत में दीपफेक को लेकर कड़े कानून हैं। IT Act 66E और IT Act 67 में इस तरह के कॉन्टेंट को ऑनलाइन शेयर करने पर जुर्माने के साथ-साथ जेल जाने का भी प्रावधान किया गया है। IT Act 66E के मुताबिक, अगर किसी शख्स का फोटो या वीडियो बिना उसकी अनुमति के सोशल और ऑनलाइन प्लेटफॉर्म पर पब्लिश किया जाता है, तो 3 साल तक की जेल और 2 लाख रुपये तक का जुर्माना लगाया जा सकता है।
IT Act 67 कहता है कि किसी भी शख्स की अश्लील फोटो बनाए जाने या फिर शेयर करने पर 3 साल की जेल और 5 लाख रुपये तक का जुर्माना देना होगा। वहीं, बार-बार वही गलती करने पर 5 साल तक की जेल और 10 लाख रुपये तक का जुर्माना देना पड़ सकता है। 7 नवंबर 2023 को केन्द्र सरकार ने सोशल मीडिया इंटरमीडियरिज (SMI) को डीपफेक और AI जेनरेटेड कॉन्टेंट को लेकर एडवाइजरी जारी किया था। अपने एडवाइजरी में सरकार ने SMI से कहा था कि वो डीपफेक कॉन्टेंट की पहचान करें और उनपर ऐक्शन लें। किसी भी डीपफेक कॉन्टेंट के रिपोर्ट होने पर उसे सोशल और ऑनलाइन प्लेटफॉर्म से रिपोर्ट के 36 घंटे के अंदर हटाया जाना चाहिए, नहीं तो प्लेटफॉर्म पर भारतीय दंड संहिता के तहत कार्रवाई की जा सकती है।
डीपफेक कॉन्टेंट की ऐसे करें पहचान?
डीपफेक और AI जेनरेटेड कॉन्टेंट की पहचान करना एक आम यूजर के लिए बेहद मुश्किल है। हालांकि, अगर यूजर सतर्क रहे तो डीपफेक कॉन्टेंट से पार पाया जा सकता है। सोशल मीडिया पर शेयर किया गया कोई भी कॉन्टेंट अगर अजीब लगे या फिर कोई जान-पहचान का शख्स आपसे फोन कॉल पर अजीब डिमांड करें तो यह फर्जी हो सकता है। इस तरह के सोशल पोस्ट को भावनाओं में बहकर शेयर न करें और न ही किसी परिचित की आवाज सुनकर मदद करने की कोशिश करें।
किसी भी AI जेनरेटेड डीपफेक वीडियो की पहचान वीडियो में दिखाए जा रहे शख्स के चेहरे, उंगलियों और आवाज पर केंद्रित करने पर की जा सकती है। इनके अलावा AI जेनरेटेड डीपफेक की पहचान के लिए रिवर्स मशीन लर्निंग AI भी तैयार किया जा रहा है, जिससे डीपफेक की जांच करना और आसान हो जाएगा। साथ ही, डीपफेक कॉन्टेंट शेयर करने वाले अपराधियों के लोकेशन को भी ट्रैक करने में सुविधा होगी।
