नई दिल्ली/हैदराबाद। प्रधानमंत्री नरेंद्र मोदी के कथित तौर पर AI से मॉर्फ्ड वीडियो सोशल मीडिया पर प्रसारित किए जाने के मामले में हैदराबाद साइबर क्राइम पुलिस ने मेटा इंडिया हेड अरुण श्रीनिवास और कई सोशल मीडिया यूजर्स के खिलाफ मामला दर्ज किया है। पुलिस के अनुसार, मामला मेटा के स्वामित्व वाले प्लेटफॉर्म फेसबुक और इंस्टाग्राम पर साझा किए गए कथित मॉर्फ्ड वीडियो से जुड़ा है।
पुलिस सूत्रों के मुताबिक, जांच एजेंसियों का मानना है कि इन कथित AI-जनित वीडियो के जरिए लोगों को गुमराह किया जा सकता है। मामले में भारतीय न्याय संहिता (BNS) और सूचना प्रौद्योगिकी अधिनियम (IT Act) के प्रावधानों के संभावित उल्लंघन की भी जांच की जा रही है।
कौन बना रहा था मॉर्फ्ड वीडियो, जांच जारी
साइबर क्राइम पुलिस यह पता लगाने में जुटी है कि कथित डीपफेक या मॉर्फ्ड वीडियो किसने तैयार किए, उन्हें सोशल मीडिया पर किस प्रकार व्यापक रूप से प्रसारित किया गया और क्या प्लेटफॉर्म पर मौजूद सुरक्षा एवं कंटेंट मॉडरेशन व्यवस्था ऐसे कंटेंट को रोकने के लिए पर्याप्त थी।
जांच में उन लोगों की भूमिका की भी पड़ताल की जा रही है, जिन्होंने कथित रूप से इन वीडियो को तैयार किया और सोशल मीडिया पर साझा किया।
मेटा से मांगा गया जवाब
यह मामला ऐसे समय सामने आया है, जब कुछ दिन पहले ही हैदराबाद साइबर क्राइम पुलिस ने मेटा के प्रतिनिधियों को तलब कर कंपनी से यह जानकारी मांगी थी कि उसके प्लेटफॉर्म पर AI से जुड़े स्कैम, फर्जी विज्ञापनों और मॉर्फ्ड कंटेंट की पहचान कर उन्हें हटाने की प्रक्रिया क्या है।
रिपोर्टों के अनुसार, मेटा के प्रतिनिधियों ने जांच अधिकारियों के समक्ष पेश होकर कंपनी की कंटेंट मॉडरेशन नीति और संबंधित प्रक्रियाओं की जानकारी उपलब्ध कराई है।
शुरुआती चरण में है जांच
पुलिस ने स्पष्ट किया है कि जांच अभी प्रारंभिक चरण में है। सभी आरोपों की जांच डिजिटल साक्ष्यों के आधार पर की जाएगी और आगे की कार्रवाई जांच के निष्कर्षों के अनुसार तय होगी। फिलहाल किसी भी आरोपी के खिलाफ आरोप न्यायिक रूप से सिद्ध नहीं हुए हैं।
क्या होते हैं मॉर्फ्ड वीडियो?
मॉर्फ्ड वीडियो ऐसे वीडियो होते हैं, जिनमें किसी व्यक्ति का चेहरा, आवाज या हाव-भाव कृत्रिम बुद्धिमत्ता (AI) या वीडियो एडिटिंग तकनीक की मदद से इस तरह बदल दिए जाते हैं कि ऐसा प्रतीत हो मानो वह व्यक्ति कुछ ऐसा कह या कर रहा है, जो उसने वास्तव में कभी कहा या किया ही नहीं।
नोट: किसी व्यक्ति या संस्था के खिलाफ मामला दर्ज होना केवल जांच की शुरुआत है। आरोपों की पुष्टि जांच और न्यायिक प्रक्रिया पूरी होने के बाद ही मानी जाती है।