इलेक्ट्रॉनिक्स और आईटी मंत्रालय (एमईआईटीवाई) ने कृत्रिम बुद्धिमत्ता डीपफेक के माध्यम से उत्पन्न भ्रामक सामग्री को 24 घंटे के भीतर हटाने के लिए फेसबुक, इंस्टाग्राम और यूट्यूब सहित सोशल मीडिया प्लेटफार्मों को सलाह भेजी है। यह सलाह अभिनेत्री रश्मिका मंदाना की डीपफेक सोशल मीडिया प्लेटफॉर्म पर वायरल होने के एक दिन बाद आई है। मंत्रालय ने इस साल फरवरी में प्लेटफार्मों के लिए इसी तरह की सलाह जारी की थी। सरकारी सूत्रों के अनुसार, एडवाइजरी में मौजूदा कानूनी प्रावधानों को दोहराया गया है जिनका पालन प्लेटफॉर्म को ऑनलाइन मध्यस्थों के रूप में करना होगा। इसमें सूचना प्रौद्योगिकी अधिनियम की धारा 66 डी का उल्लेख किया गया है, जिसमें कंप्यूटर संसाधनों का उपयोग करके धोखाधड़ी करने पर तीन साल तक की कैद और 1 लाख रुपये तक का जुर्माना हो सकता है।

समझा जाता है कि सलाह में सूचना प्रौद्योगिकी नियमों के नियम 3(2)(बी) का भी उल्लेख किया गया है, जिसके तहत सोशल मीडिया प्लेटफार्मों को 24 घंटे के भीतर किसी व्यक्ति की कृत्रिम रूप से रूपांतरित छवियों सहित प्रतिरूपण की प्रकृति वाली सामग्री को हटाना आवश्यक है। मंदाना का हालिया डीपफेक इस समय इंस्टाग्राम जैसी साइटों पर वायरल है, जहां उसके चेहरे को एक वीडियो में बदल दिया गया है, जहां एक महिला को आकर्षक कपड़े पहने हुए लिफ्ट में प्रवेश करते देखा जा सकता है। मूल वीडियो एक ब्रिटिश-भारतीय सोशल मीडिया प्रभावशाली व्यक्ति का है और इसे पिछले महीने इंस्टाग्राम पर अपलोड किया गया था।

क्लिप के वायरल होते ही अभिनेता अमिताभ बच्चन ने मंदाना के डीपफेक के खिलाफ कानूनी कार्रवाई की मांग की है। केंद्रीय सूचना प्रौद्योगिकी राज्य मंत्री राजीव चंद्रशेखर ने एक्स पर कहा था कि डीपफेक गलत सूचना का नवीनतम और उससे भी अधिक खतरनाक और हानिकारक रूप है और इससे (ऑनलाइन) प्लेटफार्मों द्वारा निपटने की जरूरत है। वायरल डीपफेक पर प्रतिक्रिया देते हुए मंदाना ने एक्स पर कहा कि वह वास्तव में आहत थीं।