आसान भाषा में जानिए क्या होती है डीपफेक टेक्नोलॉजी, इससे बचने के लिए इन AI टूल का कर सकते हैं इस्तेमाल

टेक्नोलॉजी डेस्क, नई दिल्ली। आर्टिफिशियल इंटेलिजेंस (AI) जैसी खतरनाक टेक्नोलॉजी बहुत तेजी से आगे बढ़ रही है। दुनिया भर में डीपफेक काफी तेजी से फैल रहा है। ओबामा से लेकर पुतिन और मनोज से लेकर रश्मिका तक, आज हम जो देख रहे हैं वह उस नुकसान की एक झलक मात्र है, जो एक अनियंत्रित टेक्नोलॉजी हम पर ला सकती है।

नरेंद्र मोदी ने शुक्रवार को डीप फेक बनाने के लिए आर्टिफिशियल इंटलीजेंस (AI) के दुरुपयोग को चिह्नित किया और कहा कि मीडिया को इस संकट के बारे में लोगों को शिक्षित करना चाहिए।

क्या है डीपफेक टेक्नोलॉजी

डीपफेक शब्द 'Deep Learning' और 'Fake' के मेल से बना है। डीप फेक टेक्नोलॉजी की मदद से किसी दूसरे की फोटो या वीडियो पर किसी सेलिब्रिटी वीडियो के फ़ेस के साथ फेस स्वैप कर दिया जाता है। ये देखने में बिलकुल असली वीडियो या इमेज की तरह दिखती है।

ये टेक्नोलॉजी ऐसी एल्गोरिदम और पैटर्न को लर्न करती है, जिसका इस्तेमाल मौजूदा इमेज या वीडियो में हेरफेर करके उसके और ज्यादा रियल बनाने में किया जाता है। इससे बनी वीडियो और इमेज पर लोग आसानी से भरोसा भी कर लेते हैं। ये टेक्नोलॉजी Generative Adversarial Networks (GANs) का इस्तेमाल करती है जिससे फेक वीडियो और इमेज बनाये जाते हैं।

ये भी पढ़ें: रश्मिका मंदाना के वायरल डीपफेक वीडियो पर राजीव चंद्रशेखर बोले- सरकार नागरिकों की डिजिटल सुरक्षा के लिए प्रतिबद्ध

कैसे शुरू हुई डीपफेक टेक्नोलॉजी

'डीपफेक' शब्द पहली बार 2017 के अंत में एक Reddit यूजर द्वारा बनाया गया था, जिसने अश्लील वीडियो पर मशहूर हस्तियों के चेहरे को सुपरइम्पोज करने के लिए डीप लर्निंग टेक्नोलॉजी का इस्तेमाल किया था। इस घटना ने महत्वपूर्ण ध्यान आकर्षित किया; 2018 तक, ओपन-सोर्स लाइब्रेरी और ऑनलाइन शेयर किए गए ट्यूटोरियल की बदौलत टेक्नोलॉजी इस्तेमाल में आसान हो गई थी। बाद के 2020 के दशक में, डीपफेक अधिक परिष्कृत हो गए और उनका पता लगाना कठिन हो गया।

ऐसे कर सकते हैं डीपफेक की पहचान

अगर आपको लगता है कि कोई वीडियो या इमेज डीपफेक है तो उसमें हुए बदलावों पर नजर डाल सकते हैं। कई बार ऐसी वीडियो में आपको हाथ-पैर कि मूवमेंट पर ज्यादा नजर देनी चाहिए। कुछ प्लेटफॉर्म एआई जनरेटेड कंटेंट के लिए वॉटरमार्क या अस्वीकरण जोड़ते हैं कि कंटेंट एआई से जनरेट किया गया है। हमेशा ऐसे निशान या डिसक्लेमर को ध्यान से चेक करें।

ये भी पढ़ें: Rashmika Mandanna Viral Video: रश्मिका मंदाना का डीपफेक वीडियो हो रहा वायरल, क्या AI को रेगुलेट करने की है जरूरत?

इन AI टूल का कर सकते हैं इस्तेमाल

आजकल बहुत सारे एआई टूल मौजूद हैं जो एआई जनरेटेड कंटेंट को आसानी से पकड़ सकते हैं। AI or Not और Hive Moderation जैसे कई एआई टूल भी काम में आ सकते हैं, जो एआई-जनरेटेड कंटेंट का पता लगा सकते हैं। Deepware Scanner एक ऐसा टूल है जिसकी मदद से आप किसी इमेज या वीडियो को डीपफेक पता करने के लिए इस्तेमाल कर सकते हैं। इसके अलावा भी ढेरों टूल ऑनलाइन उपलब्ध हैं।

डीपफेक कम करने के लिए टेक कंपनिया कर रहीं काम

डीपफेक का पता लगाने और उसका प्रतिकार करने के प्रयास चल रहे हैं, जिन्होंने गलत सूचना फैलाने, फर्जी समाचार बनाने और दर्शकों को धोखा देने के लिए इमेज और वीडियो कंटेंट में हेरफेर करने की अपनी क्षमता के कारण महत्वपूर्ण ध्यान और चिंता प्राप्त की है।

पॉलिसी मेकर , री-सर्चर और बड़ी टेक कंपनियां इस टेक्नोलॉजी के बारे में जागरूकता बढ़ाने और इसके संभावित दुरुपयोग को दूर करने के तरीके खोजने के लिए सक्रिय रूप से काम कर रही हैं।

लेखिका - देविका मेहता

डिप्टी एडिटर, विश्वास न्यूज