डीपफेक क्या है? क्यों ये Fake news से कई सौ गुना ज्यादा खतरनाक है?
- चीन का साइबरस्पेस एडमिनिस्ट्रेशन डीप सिंथेसिस या डीप फेक तकनीक के उपयोग को प्रतिबंधित करने और गलत सूचना पर अंकुश लगाने के लिए 10 जनवरी से प्रभावी होने के लिए नए नियमों को लागू कर रहा है।
- डीप सिंथेसिस को आभासी रूप से दृश्य बनाने के लिए पाठ, चित्र, ऑडियो और वीडियो उत्पन्न करने के लिए संवर्धित वास्तविकता सहित प्रौद्योगिकियों के उपयोग के रूप में परिभाषित किया गया है।
- प्रौद्योगिकी के सबसे कुख्यात अनुप्रयोगों में से एक डीपफेक है, जहां सिंथेटिक मीडिया का उपयोग एक व्यक्ति के चेहरे या आवाज को दूसरे व्यक्ति के लिए स्वैप करने के लिए किया जाता है। प्रौद्योगिकी की प्रगति के साथ डीपफेक का पता लगाना कठिन होता जा रहा है।
डीपफेक क्या है और यह कैसे काम करता है?
- “डीपफेक” शब्द अंतर्निहित तकनीक “डीप लर्निंग” से आया है, जो एआई का एक रूप है। डीप लर्निंग एल्गोरिदम का उपयोग यथार्थवादी दिखने वाले नकली मीडिया बनाने के लिए वीडियो और डिजिटल सामग्री में चेहरों को स्वैप करने के लिए किया जाता है।
- डीपफेक बनाने के लिए कई तरीके हैं, लेकिन सबसे आम डीप न्यूरल नेटवर्क के उपयोग पर निर्भर करता है जिसमें ऑटोएनकोडर शामिल होते हैं जो फेस-स्वैपिंग तकनीक को नियोजित करते हैं। डीपफेक के आधार के रूप में उपयोग करने के लिए पहले एक लक्षित वीडियो की आवश्यकता होती है और फिर उस व्यक्ति के वीडियो क्लिप का एक संग्रह जिसे आप लक्ष्य में सम्मिलित करना चाहते हैं।
डीपफेक की समस्या:
- डीपफेक के लिए वास्तविक दुनिया के पहले अनुप्रयोगों में से एक वास्तव में सिंथेटिक पोर्नोग्राफ़ी बनाना था।
- 2017 में, “डीपफेक” नाम के एक रेडिट यूजर ने पोर्न के लिए एक फोरम बनाया, जिसमें अभिनेताओं के चेहरे की अदला–बदली की गई थी। उस समय से, पोर्न (विशेष रूप से रिवेंज पोर्न) ने बार-बार खबरें बनाई हैं, जिससे मशहूर हस्तियों और प्रमुख हस्तियों की प्रतिष्ठा को गंभीर नुकसान पहुंचा है। डीपट्रेस की रिपोर्ट के अनुसार, 2019 में ऑनलाइन पाए गए डीपफेक वीडियो में 96% पोर्नोग्राफी थी।
- डीपफेक वीडियो का इस्तेमाल राजनीति में भी किया गया है। उदाहरण के लिए, 2018 में, बेल्जियम के एक राजनीतिक दल ने डोनाल्ड ट्रम्प का एक वीडियो जारी किया, जिसमें बेल्जियम को पेरिस जलवायु समझौते से हटने के लिए भाषण देने का आह्वान किया गया था। ट्रम्प ने वह भाषण कभी नहीं दिया – यह एक डीपफेक था।
