Grok Controversy: सोशल मीडिया प्लेटफॉर्म X ने अपने कंटेंट मॉडरेशन में हुई चूक स्वीकार करते हुए कहा है कि वह भारतीय कानून और नियमों का पूरी तरह पालन करेगा। यह जानकारी सरकारी सूत्रों ने दी।
यह विवाद उस समय उभरा जब प्लेटफॉर्म पर अश्लील और यौन-उत्प्रेरक सामग्री फैलने की शिकायतें सामने आईं, जिनमें X के आर्टिफिशियल इंटेलिजेंस टूल Grok के माध्यम से बनाई या बढ़ाई गई सामग्री भी शामिल थी।
सरकारी सूत्रों के अनुसार, अब तक लगभग 3,500 अश्लील पोस्ट को ब्लॉक किया जा चुका है और 600 से अधिक अकाउंट को हटा दिया गया है। प्लेटफॉर्म ने यह भी आश्वासन दिया है कि भविष्य में अश्लील इमेजरी को अनुमति नहीं दी जाएगी।
हालांकि, राज्यसभा सांसद प्रियंका चतुर्वेदी ने X पर आलोचना करते हुए कहा कि Grok के माध्यम से यौन-उत्प्रेरक इमेजरी केवल भुगतान करने वाले उपयोगकर्ताओं तक सीमित करने का निर्णय पर्याप्त नहीं है। उनका कहना है कि इससे महिलाओं और बच्चों की तस्वीरों का अनधिकृत उपयोग होने का खतरा बना रहता है।
प्रियंका चतुर्वेदी ने अपने X (पूर्व ट्विटर) पोस्ट में लिखा, “यह दुर्भाग्यपूर्ण है कि प्लेटफॉर्म ने पूरी तरह से यौन-उत्प्रेरक इमेजरी बनाने को रोकने के बजाय इसे केवल भुगतान करने वाले यूजर्स तक सीमित किया है। इससे यह साफ हो जाता है कि पैसे दिखाओ, तो नियमों या सुरक्षा गार्डरिल्स की कोई परवाह नहीं। इसका सीधा असर यह है कि महिलाओं और बच्चों की तस्वीरें अनधिकृत रूप से इस्तेमाल हो सकती हैं। यह सुरक्षित वातावरण बनाने के बजाय, @XCorpIndia इस अपमानजनक व्यवहार को ‘क्रिएटिविटी और इनोवेशन’ के बहाने मोनेटाइज कर रहा है। यह AI का शर्मनाक उपयोग है।”
इसके पहले 1 जनवरी को प्रियंका चतुर्वेदी ने केंद्रीय इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्री अश्विनी वैष्णव को पत्र लिखकर X के AI टूल Grok के दुरुपयोग को लेकर चिंता जताई थी। उन्होंने कहा कि कुछ लोग नकली अकाउंट्स के जरिए महिलाओं की तस्वीरें पोस्ट कर उन्हें यौन-उत्प्रेरक बनाने के लिए Grok का दुरुपयोग कर रहे हैं।
उन्होंने पत्र में लिखा था कि यह न केवल महिलाओं की गोपनीयता का उल्लंघन है बल्कि उनके अधिकारों के लिए भी गंभीर खतरा है। प्रियंका चतुर्वेदी ने सरकार से तत्काल कदम उठाने और AI-आधारित टूल्स में ऐसे सुरक्षा उपाय लागू करने की मांग की, जिससे ऑनलाइन महिलाओं की सुरक्षा सुनिश्चित हो सके।
