सरकार ने मेटा के आर्टिफिशल इंटेलिजेंस (एआई) आधारित कंटेंट मॉडरेशन सिस्टम यानी किसी सामग्री को पहचान कर हटाने वाली प्रणालियों में मानव समीक्षकों की मौजूदगी न होने पर चिंता जताई है। सूत्रों ने बताया कि सरकार ने कंपनी से ऐसे सिस्टम स्थापित करने के लिए कहा है जो यह सुनिश्चित करे कि उपयोगकर्ताओं की सामग्री केवल एआई इंजन के निर्णयों के आधार पर न हटाई जाए।
हाल में इलेक्ट्रॉनिकी एवं सूचना प्रौद्योगिकी मंत्रालय के अधिकारियों ने मेटा के वरिष्ठ अधिकारियों के साथ हुई बैठक में यह मुद्दा उठाया। उसमें कंपनी के वैश्विक मामलों के प्रमुख जोएल कैपलन भी शामिल थे। उन्होंने कहा कि मध्यस्थ कंपनी के एआई सिस्टम को उसके तीन प्लेटफॉर्मों पर सामग्री चिह्नत करने और उन्हें हटाने के लिए केवल स्टैटिक कीवर्ड का पता लगाने के लिए प्रशिक्षित किया गया है।
बैठकों में मौजूद एक अधिकारी ने कहा कि उस तरीके में समस्या थी। उसके जरिये किसी भी सामग्री को हटाया जा सकता था भले ही वह किसी कानून या सामुदायिक दिशानिर्देशों का उल्लंघन न करती हो। एक वरिष्ठ सरकारी अधिकारी ने बिज़नेस स्टैंडर्ड को बताया, ‘उदाहरण के लिए हाल में एक सरकारी संगठन ने बताया था कि कानून प्रवर्तन एजेंसियों ने किस प्रकार कुछ देशों से खालिस्तान समर्थक भगोड़ों का सफलतापूर्वक प्रत्यर्पण किया था। जब इस ऑपरेशन का विवरण उस सरकारी विभाग द्वारा फेसबुक पर साझा किया गया तो ‘खालिस्तान समर्थक’ शब्द की मौजूदगी के कारण एआई-एनेबल्ड कंटेंट मॉडरेशन सिस्टम ने उस पोस्ट के संदर्भ को समझे बिना खुद-ब-खुद उसे हटा दिया।’ अधिकारी ने कहा कि अगर उसकी समीक्षा मानव द्वारा की जाती तो ऐसी गलती नहीं होती।
एक अन्य अधिकारी ने कहा कि मेटा के अलावा एक्स जैसे प्लेटफॉर्म पर भी एआई के जरिये निर्णय लेने की प्रणाली में मानव एजेंट की कमी देखी गई है। उन्होंने कहा कि उनके सिस्टम सामुदायिक मानकों के अनुसार प्रतिबंधित या वर्जित कीवर्ड वाली किसी भी पोस्ट तक पहुंच को प्रतिबंधित कर देते हैं।
अधिकारी ने कहा, ‘फिलहाल हम उन मामलों का अध्ययन कर रहे हैं जहां सोशल मीडिया मध्यस्थों के एआई आधारित कंटेंट मॉडरेशन सिस्टम द्वारा महज किसी खास शब्द के कारण पोस्ट को हटा दिया गया है। रिपोर्ट के आधार पर हम कार्रवाई कर सकते हैं।’
इस मुद्दे पर जानकारी के लिए मेटा और आईटी मंत्रालय को भेजे गए ईमेल का खबर लिखे जाने तक कोई जवाब नहीं आया।
इस साल 5 अगस्त से 10 अगस्त के बीच आईटी मंत्रालय के वरिष्ठ अधिकारियों ने मेटा के वरिष्ठ वैश्विक और भारतीय अधिकारियों से मुलाकात की और बाल यौन शोषण सामग्री (सीएसएएम) एवं अन्य सामग्री से निपटने के कंपनी के तरीके पर सवाल उठाए। बैठक में केंद्रीय इलेक्ट्रॉनिकी एवं सूचना प्रौद्योगिकी मंत्री अश्विनी वैष्णव और कपलान भी शामिल थे।
इन बैठकों के दौरान मेटा के अधिकारियों से प्रधानमंत्री नरेंद्र मोदी के एक वीडियो को गलती से 5 घंटे तक रोके जाने के बारे में भी पूछताछ की गई। उस वीडियो में प्रधानमंत्री नीट परीक्षा के प्रश्नपत्रों के लीक होने का विरोध कर रहे छात्रों को संबोधित कर रहे थे।
