दुनिया भर में कई लोग डीपफेक तकनीक से चिंतित हैं।
प्रसिद्ध टेलीविजन हस्ती पियर्स मॉर्गन ने उनके और ओपरा विन्फ्रे के हेरफेर किए गए वीडियो फुटेज वाले एक डीपफेक विज्ञापन की खोज के बाद अपनी चिंता व्यक्त की है। रिपोर्ट के अनुसार, विज्ञापन में दो मशहूर हस्तियों को अमेरिकी प्रभावशाली वेस्ली वर्जिन के विवादास्पद स्व-सहायता पाठ्यक्रम का झूठा समर्थन करते हुए दिखाया गया था बीबीसी.
भ्रामक विज्ञापन, जिसने वर्जिन द्वारा जिनी स्क्रिप्ट्स मेनिफेस्टेशन नामक एक “अभिव्यक्ति” पाठ्यक्रम को बढ़ावा दिया, ने लोगों को अपने जीवन पर नियंत्रण रखने और उनकी गहरी इच्छाओं को प्राप्त करने में मदद करने का दावा किया। विज्ञापन में, उन्होंने वीडियो को डिजिटल रूप से बदल दिया ताकि ऐसा लगे कि पियर्स मॉर्गन कह रहे थे, “एक खोया हुआ पुराना धर्मग्रंथ जिसका उपयोग राजा विशाल धन, चमत्कारी उपचार और अद्वितीय प्रेम के लिए करते थे।” यूट्यूब ने भ्रामक वीडियो को हटा दिया है।
आर्टिफिशियल इंटेलिजेंस के बारे में अपनी चिंताओं को साझा करते हुए, मॉर्गन ने बीबीसी को बताया कि विज्ञापन “वित्तीय लाभ के लिए डीपफेक एआई मैनिपुलेटर्स द्वारा सार्वजनिक आंकड़ों का दुरुपयोग किए जाने की एक बहुत ही चिंताजनक प्रवृत्ति का एक और उदाहरण है।” उन्होंने कहा, “असली पीड़ित जनता के सदस्य होंगे जो अनजाने में इन उत्पादों को यह मानते हुए खरीदते हैं कि सेलिब्रिटी समर्थन वास्तविक हैं।”
फेसबुक और इंस्टाग्राम पर एक अन्य विज्ञापन में ओपरा विन्फ्रे के असली वीडियो को भी डीपफेक का उपयोग करके बदल दिया गया था। इसमें विन्फ्रे कहती नजर आती हैं, “मैं आपको 20 शब्दों की एक स्क्रिप्ट देना चाहती हूं… इसे ऐसे समझें जैसे आपके दिमाग में एक नया ऑपरेटिंग सिस्टम इंस्टॉल हो रहा है जो आपको अमीर बनाने के लिए प्रोग्राम किया गया है।” हालाँकि, असली विन्फ्रे ने पुष्टि की कि उसने उत्पाद का समर्थन नहीं किया है।
एक विज्ञापन में, उन्होंने खाद्य लेखिका निगेला लॉसन के एक वीडियो का उपयोग किया, जिसमें वह अपने व्यंजनों और एक टीवी शेफ होने के बारे में बात कर रही थीं। आवाज, जो वास्तव में उसकी नहीं थी, ने कहा, “मैं छुट्टियों पर गई थी और एक बहुत ही खास पार्टी में इस आदमी से मिली। उसका नाम वेस्ले था और उसने मुझे यह छिपा हुआ बाइबिल पृष्ठ दिया जो किसी के कमरे में बंद था।”
नकली आवाज़ ने सुझाव दिया कि वेस्ले वर्जिन की स्क्रिप्ट आपके सपनों के बारे में सोचने या लिखने से उन्हें साकार कर सकती है। इसमें दावा किया गया, “इस कहावत को हर दिन दोहराएं… तब से, मैं वास्तव में अमीर बन गया हूं।”
निगेला लॉसन के प्रवक्ता ने विज्ञापन को “फर्जी” बताया और कहा कि यह एक बड़ी चिंता का विषय है।
दुनिया भर में कई लोग डीपफेक तकनीक से चिंतित हैं। प्रधान मंत्री, नरेंद्र मोदीने भी हाल ही में इसके बारे में बात करते हुए कहा कि यह एक बड़ी समस्या है। उन्होंने पारंपरिक गरबा नृत्य करते हुए अपने एक नकली वीडियो का उल्लेख किया जो कृत्रिम बुद्धिमत्ता का उपयोग करके बनाया गया था। उन्होंने आगाह किया, “आर्टिफिशियल इंटेलिजेंस के समय में, यह महत्वपूर्ण है कि प्रौद्योगिकी का उपयोग जिम्मेदारी से किया जाना चाहिए।”