वित्त मंत्री निर्मला सीतारमण की चेतावनी: डीपफेक वीडियो से सतर्क रहें, मजबूत AI सुरक्षा की जरूरत

केंद्रीय वित्त मंत्री निर्मला सीतारमण (Nirmala Sitharaman) ने आज मंगलवार को कहा कि उन्होंने सोशल मीडिया पर अपने भी कई डीपफेक वीडियो देखे हैं। इसके साथ ही उन्होंने लोगों का भरोसा बनाए रखने के लिए सुरक्षा व्यवस्था मजबूत करने की जरूरत पर जोर दिया। सीतारमण ने यहां वार्षिक ग्लोबल फिनटेक फेस्ट को संबोधित करते हुए कहा कि आर्टिफिशियल इंटेलिजेंस (AI) फाइनेंस और गवर्नेंस के साथ रोजमर्रा की जिंदगी को भी बदल रहा है। हालांकि उन्होंने यह सुनिश्चित करने की जरूरत पर बल दिया कि टेक्नोलॉजी मानवता की सेवा करे।

वित्त मंत्री ने एडवांस टेक्नोलॉजी के 'अंधेरे पहलू' से भी निपटने के लिए तैयार रहने का आह्वान किया। सीतारमण ने कहा, "जो टूल्स इनोवेशन को पावर प्रदान करते हैं, उन्हीं का इस्तेमाल धोखे और जालसाजी के लिए भी किया जा सकता है। मैं इसे व्यक्तिगत नहीं बना रही हूं, लेकिन मैं कह सकती हूं कि मैंने अपने कई डीपफेक वीडियो को ऑनलाइन सर्कुलेट होते हुए देखा है। इन डीपफेक वीडियो का इस्तेमाल नागरिकों को गुमराह करने और तथ्यों को तोड़-मरोड़ कर पेश करने के लिए किया गया है।"

उन्होंने कहा कि ये वीडियो इस बात की याद दिलाते हैं कि हमें ऐसे लोगों के खिलाफ अपनी सुरक्षा व्यवस्था को 'तत्परता' से बढ़ाने की कितनी जरूरत है। डीपफेक वीडियो में AI और मशीन लर्निंग तकनीकों के इस्तेमाल से किसी व्यक्ति के चेहरे, आवाज या हाव-भाव को किसी अन्य व्यक्ति या परिस्थिति में नकली रूप से जोड़ा जाता है। इसे देखकर आम लोग अक्सर इसे असली वीडियो समझ लेते हैं।

उन्होंने कहा, "नई पीढ़ी की धोखाधड़ी अब फायरवॉल तोड़ने के बारे में नहीं, बल्कि विश्वास को तोड़ने के बारे में है। अपराधी आवाज की नकल करने, पहचान की नकल करने और लोगों को गुमराह करने वाले असली लगने वाले वीडियो बनाने के लिए AI का इस्तेमाल कर रहे हैं।" सीतारमण ने कहा कि वित्तीय प्रौद्योगिकी में सक्रिय इनोवेटर्स, इनवेस्टर्स और रेगुलेटर्स सहित पूरे इकोसिस्टम की इस मोर्चे पर अहम भूमिका है।

वित्त मंत्री ने कहा कि इनोवेटिव होने के साथ वित्तीय प्रणालियों को लचीला, सुरक्षित और समावेशी होना चाहिए। उन्होंने डेडिकेटेड यूनिफाइड पेमेंट इंटरफेस (UPI) हैंडल के जरिये निवेशकों को टारगेट करने वाले नकली वीडियो और झूठे प्रतिनिधित्व के मुद्दे को हल करने के लिए मार्केट रेगुलेटर सेबी के प्रयासों की सराहना की।