होम
ताज़ा खबर
प्रदेश
देश
दुनिया
मनोरंजन
लाइफस्टाइल
क्रिकेट
धर्म-अध्यात्म
स्पोर्ट्स

भारत में कंटेंट मॉडरेशन, CSAM और डीपफेक पर सरकार सख्त, MeitY ने मांगा जवाब

खबर सार :-

भारत सरकार ने Meta से कंटेंट मॉडरेशन, CSAM, डीपफेक और सिंथेटिक कंटेंट को लेकर सिस्टम मजबूत करने को कहा है। MeitY और Meta के बीच तकनीकी बातचीत जारी है।
Dharmesh Yadav
Published By: Dharmesh Yadav • Edited By: Dharmesh Yadav
भारत में Meta के कंटेंट मॉडरेशन सिस्टम पर सरकार की सख्ती

खबर विस्तार : -

नई दिल्लीः भारत सरकार ने स्पष्ट किया है कि देश में काम करने वाले Meta के प्लेटफॉर्म्स को भारतीय कानूनों और स्थानीय सामाजिक-सांस्कृतिक परिस्थितियों के अनुरूप काम करना होगा। सरकार और कंपनी के बीच हालिया बातचीत का फोकस Meta के पूरे एल्गोरिदम को बदलने के बजाय उसके मौजूदा कंटेंट मॉडरेशन सिस्टम को अधिक प्रभावी, जवाबदेह और भारतीय परिस्थितियों के अनुकूल बनाने पर रहा।

सरकारी सूत्रों के मुताबिक, बातचीत में कंटेंट मॉडरेशन के साथ-साथ बच्चों के यौन शोषण से जुड़े कंटेंट यानी CSAM, सेलिब्रिटी डीपफेक, सिंथेटिक कंटेंट और रिकमेंडेशन सिस्टम से जुड़े कई अहम मुद्दों पर चर्चा हुई। सरकार का जोर इस बात पर है कि Meta केवल अपनी मौजूदा नीतियों का हवाला देने के बजाय यह सुनिश्चित करे कि उसके सिस्टम वास्तव में भारतीय कानूनों और स्थानीय जरूरतों के अनुरूप प्रभावी तरीके से काम कर रहे हैं। 

स्थानीय भाषाओं की समझ बढ़ाने पर जोर

सरकार की प्रमुख चिंताओं में से एक Meta के कंटेंट मॉडरेशन सिस्टम की स्थानीय क्षमता को लेकर है। सूत्रों ने बताया कि भारत के बाहर काम करने वाली कंटेंट मॉडरेशन टीमें कई बार भारतीय समाज की सांस्कृतिक बारीकियों, भाषाई विविधता और स्थानीय संवेदनशीलताओं को पूरी तरह समझ नहीं पाती हैं। भारत में सोशल मीडिया पर बड़ी संख्या में अलग-अलग भाषाओं में कंटेंट तैयार और साझा किया जाता है। ऐसे में केवल अंग्रेजी या सीमित भाषाओं पर आधारित मॉडरेशन सिस्टम हर तरह के आपत्तिजनक या संवेदनशील कंटेंट की सही पहचान नहीं कर सकता।

सरकार चाहती है कि Meta भारतीय भाषाओं के साथ-साथ अलग-अलग राज्यों और समुदायों के सामाजिक एवं सांस्कृतिक संदर्भों को भी अपने मॉडरेशन सिस्टम में बेहतर तरीके से शामिल करे। इससे कंटेंट की गलत पहचान और ऐसे कंटेंट के ऑनलाइन बने रहने, दोनों समस्याओं को कम करने में मदद मिल सकती है।

CSAM पर सरकार का जीरो टॉलरेंस

बच्चों के यौन शोषण से जुड़े कंटेंट यानी CSAM के मामले में सरकार ने सख्त रुख अपनाया है। सरकारी सूत्रों के मुताबिक, ऐसे कंटेंट के खिलाफ किसी भी तरह के समझौते की गुंजाइश नहीं है। अधिकारियों ने स्पष्ट किया कि किसी प्लेटफॉर्म पर CSAM का मौजूद रहना गंभीर चिंता का विषय है। सरकार का मानना है कि इस तरह के कंटेंट से निपटने के लिए केवल आश्वासन पर्याप्त नहीं होगा। Meta को अपने सिस्टम और कार्रवाई के जरिए यह साबित करना होगा कि वह ऐसे कंटेंट की पहचान, रोकथाम और हटाने के लिए प्रभावी कदम उठा रही है। सरकार की प्राथमिकता यह सुनिश्चित करना है कि संवेदनशील और अवैध कंटेंट को प्लेटफॉर्म पर जगह न मिले और उसकी दोबारा पहुंच को भी प्रभावी तरीके से रोका जाए।

Human-in-the-Loop क्यों जरूरी?

बैठक में सेलिब्रिटी और सार्वजनिक हस्तियों से जुड़े डीपफेक कंटेंट का मुद्दा भी प्रमुखता से उठा। सरकार के सामने यह चिंता है कि केवल ऑटोमेटेड डिटेक्शन सिस्टम पर निर्भर रहने से वैध कंटेंट भी गलती से डीपफेक के रूप में चिन्हित हो सकता है। सूत्रों के मुताबिक, किसी अधिकृत या वेरिफाइड हैंडल से प्रकाशित कंटेंट को केवल तकनीकी संकेतों के आधार पर डीपफेक मान लेना उचित नहीं होगा। ऐसे मामलों में संदर्भ और स्रोत की पुष्टि बेहद महत्वपूर्ण है।

इसी वजह से अधिकारियों ने Human-in-the-Loop सिस्टम की जरूरत पर जोर दिया है। इसके तहत ऑटोमेटेड सिस्टम किसी संदिग्ध कंटेंट की पहचान करने के बाद मानव विशेषज्ञ उसकी समीक्षा करेंगे। इससे गलत पहचान, गलत तरीके से कंटेंट हटाए जाने और वैध पोस्ट पर अनावश्यक कार्रवाई की संभावना को कम किया जा सकता है। सरकार का मानना है कि संवेदनशील मामलों में अंतिम निर्णय लेने से पहले मानवीय समीक्षा एक महत्वपूर्ण सुरक्षा परत के रूप में काम कर सकती है।

हटाए गए डीपफेक कंटेंट के दोबारा सामने आने पर सवाल

सिंथेटिक और डीपफेक कंटेंट को लेकर सरकार की एक और बड़ी चिंता यह है कि पहले से पहचाने और हटाए जा चुके कंटेंट या उसके समान कंटेंट कई बार दोबारा यूजर्स तक पहुंच जाता है। अधिकारियों ने Meta से यह स्पष्ट करने को कहा है कि किसी कंटेंट को हटाए जाने के बाद उसे दोबारा प्लेटफॉर्म पर फैलने से रोकने के लिए कंपनी कौन से तकनीकी और मॉडरेशन उपाय अपना रही है।

सरकार जानना चाहती है कि यदि किसी पोस्ट की पहचान पहले ही हानिकारक या डीपफेक के तौर पर हो चुकी है, तो उसी कंटेंट या उसके समान संस्करणों को दोबारा रिकमेंडेशन सिस्टम तक पहुंचने से कैसे रोका जाता है। यह सवाल केवल कंटेंट हटाने तक सीमित नहीं है, बल्कि उसके दोबारा वायरल होने और रिकमेंड होने की प्रक्रिया से भी जुड़ा है।

Recommendation Algorithm को लेकर भी स्पष्टीकरण

सरकार ने Meta के रिकमेंडेशन और वायरल कंटेंट से जुड़े सिस्टम पर भी सवाल उठाए हैं। अधिकारियों के मुताबिक, कई बार यूजर्स को उनकी बताई गई पसंद से अलग कंटेंट भी दिखाई देता है। ऐसे में सरकार यह समझना चाहती है कि Meta का रिकमेंडेशन सिस्टम किन परिस्थितियों में यूजर्स को ऐसा कंटेंट दिखाता है।

सरकार का जोर इस बात पर है कि रिकमेंडेशन सिस्टम को अधिक पारदर्शी और जवाबदेह बनाया जाए। खासकर ऐसे कंटेंट के मामले में जिसे पहले हानिकारक या नियमों के खिलाफ माना जा चुका है, उसे दोबारा यूजर्स तक पहुंचने से रोकना महत्वपूर्ण है। हालांकि, सरकार की बातचीत का उद्देश्य Meta के पूरे एल्गोरिदम को बदलना नहीं बताया गया है। फोकस मौजूदा सिस्टम में मौजूद कमियों को पहचानने और कंटेंट मॉडरेशन को अधिक प्रभावी बनाने पर है।

MeitY और Meta के बीच बातचीत आगे भी जारी रहेगी

हालिया बातचीत के बाद भी सरकार की कुछ चिंताएं बनी हुई हैं। अधिकारियों के मुताबिक, Meta के साथ तकनीकी चर्चा का मुख्य उद्देश्य यह सुनिश्चित करना है कि प्लेटफॉर्म की गाइडलाइंस, कंटेंट पॉलिसी और मॉडरेशन प्रक्रिया भारतीय कानूनों के अनुरूप हों। आने वाले दौर की बातचीत में स्थानीय भाषाओं, सांस्कृतिक संदर्भों, CSAM की रोकथाम, डीपफेक की पहचान, Human-in-the-Loop समीक्षा और हटाए गए कंटेंट की दोबारा रिकमेंडेशन जैसे मुद्दों पर चर्चा जारी रहने की संभावना है।

कुल मिलाकर, सरकार का संदेश यह है कि भारत में सोशल मीडिया प्लेटफॉर्म्स के लिए केवल कंटेंट हटाना पर्याप्त नहीं होगा। उन्हें यह भी सुनिश्चित करना होगा कि संवेदनशील और हानिकारक कंटेंट की पहचान सही तरीके से हो, मानव समीक्षा की जरूरत वाले मामलों में विशेषज्ञ हस्तक्षेप हो और एक बार हटाए गए कंटेंट को दोबारा यूजर्स तक पहुंचने से रोकने के लिए प्रभावी सिस्टम मौजूद हो।

यह भी पढ़ेंः-Smartphone-Laptop से लेकर रक्षा उपकरणों तक की Overheating कम करेगी New Technology, आईआईटी मद्रास के वैज्ञानिकों ने विकसित की तकनीक

अन्य प्रमुख खबरें