डीपफेक की समस्या वास्तविक है क्योंकि अगर इसे अनियंत्रित किया गया तो इसके गंभीर परिणाम हो सकते हैं। हालाँकि उनमें अंतर पहचानना हर किसी के लिए आसान प्रतीत होता है, लेकिन ऐसे वीडियो व्यक्तियों और व्यवसायों की प्रतिष्ठा और सद्भावना पर कहर बरपा सकते हैं। भले ही बताने योग्य संकेत हों, लाखों ऐसे इंटरनेट उपयोगकर्ता हैं जो वास्तविक और काल्पनिक के बीच अंतर बताने में असमर्थ होंगे।

 

डीपफेक का मुद्दा एक बार फिर लाखों सोशल मीडिया उपयोगकर्ताओं के लिए गोपनीयता और सुरक्षा संबंधी चिंताओं को सामने ले आया है। ऐसे AI-हेरफेर किए गए वीडियो के सामने आने के बाद से, उन सभी लोगों को सावधानी बरतने की सलाह दी जाती है जो शॉर्ट-फॉर्म वीडियो सामग्री साझा करते हैं। यहां कुछ युक्तियां दी गई हैं जो किसी को अपने वीडियो और छवियों को डीपफेक बनाने वाले शरारती तत्वों के जाल में फंसने से बचाने में मदद कर सकती हैं।

वीडियो में आलिया का चेहरा एक अलग महिला का रूप दिया गया है। वीडियो में महिला को कैमरे की ओर देखते हुए और अश्लील इशारे करते हुए दिखाया गया है।

पीएम मोदी ने एआई, विशेष रूप से डीपफेक द्वारा उत्पन्न खतरों पर भी चिंता व्यक्त की है, उन्होंने कहा, “हमें लोगों को कृत्रिम बुद्धिमत्ता और डीपफेक के बारे में शिक्षित करने की जरूरत है, यह कैसे काम करता है, यह क्या कर सकता है, यह क्या चुनौतियां ला सकता है और जो कुछ भी हो सकता है इससे बना है।” इससे पहले रश्मिका ने अपने डीपफेक वीडियो पर प्रतिक्रिया देते हुए कहा था, “ईमानदारी से कहूं तो यह बेहद डरावना है, न केवल मेरे लिए, बल्कि हममें से हर एक के लिए जो आज प्रौद्योगिकी के दुरुपयोग के कारण बहुत अधिक नुकसान की चपेट में है।”