AI Deepfake: चुनाव के दौरान AI के गंभीर खतरे को उजागर कर रही ट्रंप की डीपफेक तस्वीर, चुनाव के बीच मचा बवाल
अमेरिका के पूर्व राष्ट्रपति डोनाल्ड ट्रंप की एक तस्वीर प्रसारित हो रही है। इसमें वह अश्वेत समर्थकों के साथ मुस्कुराते नजर आ रहे हैं। पहली नजर में इसमें कुछ भी गलत नजर नहीं आता। बाद में पता चला कि यह डीपफेक तस्वीर है। इसे एआई की मदद से तैयार किया गया है। यह एआई के चुनाव में गलत इस्तेमाल की ओर इशार कर रही है।
एपी, वॉशिंगटन। अमेरिका के पूर्व राष्ट्रपति डोनाल्ड ट्रंप की एक तस्वीर प्रसारित हो रही है। इसमें वह अश्वेत समर्थकों के साथ मुस्कुराते नजर आ रहे हैं। पहली नजर में इसमें कुछ भी गलत नजर नहीं आता। बाद में पता चला कि यह डीपफेक तस्वीर है। इसे एआई की मदद से तैयार किया गया है। यह एआई के चुनाव में गलत इस्तेमाल की ओर इशार कर रही है, जिसे लेकर चिंता व्यक्त की गई है।
इन तस्वीरों का ट्रंप के चुनाव अभियान से कोई संबंध नहीं है। यह तब सामने आई हैं, जब ट्रंप अश्वेत मतदाताओं को अपने पक्ष में करने की कोशिश कर रहे थे। हाल ही में बीबीसी की जांच में उजागर ये तस्वीरें उन चेतावनियों के प्रति और सुबूत हैं कि एआई की ओर से बनाई गई तस्वीरों का गलत इस्तेमाल नवंबर के आम चुनाव के करीब आने के साथ ही बढ़ेगा।
गुमराह करने करने के लिए हो सकता है इस्तेमाल
विशेषज्ञों ने कहा कि किसी भी समूह को गुमराह करने करने के लिए इसका इस्तेमाल किया जा सकता है। इस सप्ताह प्रकाशित एक रिपोर्ट में गैर-लाभकारी सेंटर फॉर काउंटरिंग डिजिटल हेट के शोधकर्ताओं ने यह दिखाने के लिए कई एआई का उपयोग किया कि वास्तविक दिखने वाला डीपफेक बनाना कितना आसान है, जो मतदाताओं को बेवकूफ बना सकता है।
सामग्री को प्रतिबंधित करने के नियम मौजूद
हालांकि, एआई से संबंधित कई कंपनियों का कहना है कि उनके पास इस तरह की सामग्री को प्रतिबंधित करने के नियम हैं। सेंटर फॉर काउंटरिंग डिजिटल हेट ने ट्रंप और अश्वेत मतदाताओं के कुछ हालिया डीपफेक का विश्लेषण किया और पाया कि कम से कम एक मूल रूप से व्यंग्य के रूप में बनाया गया था, लेकिन अब इसे ट्रंप समर्थकों द्वारा अश्वेतों के बीच उनके समर्थन के सुबूत के रूप में साझा किया जा रहा है।
एआई के हानिकारक प्रभावों से बचाने के प्रयास हों
सेंटर के सीईओ और संस्थापक इमरान अहमद ने कहा कि इंटरनेट प्लेटफॉर्म और एआई कंपनियों को यूजर्स को एआई के हानिकारक प्रभावों से बचाने के लिए और अधिक प्रयास करना चाहिए।