सरकार ईलॉन मस्क के स्वामित्व वाले सोशल मीडिया प्लेटफॉर्म एक्स (पहले ट्विटर) से इस बारे में और जानकारी मांग सकती है कि कैसे उनके प्रमुख आर्टिफिशल इंटेलिजेंस चैटबॉट ग्रोक ने उपयोगकर्ताओं को महिलाओं और बच्चों की आपत्तिजनक और यौन आधारित तस्वीरें बनाने दीं। यह जानकारी सूत्रों ने बिज़नेस स्टैंडर्ड को दी।
सूत्रों के मुताबिक एक्स ने इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय द्वारा बुधवार को जारी नोटिस का जवाब दे दिया है लेकिन मंत्रालय उससे संतुष्ट नहीं है। एक अधिकारी ने नाम जाहिर न करने की शर्त पर कहा, ‘हमने उनसे और जानकारी साझा करने को कहा है। यह भी कि क्या इस मसले को वैश्विक स्तर पर उठाया गया है और क्या ऐसी सामग्री हटाने के लिए जरूरी कदम उठाए गए हैं?’
एक्स ने मंत्रालय को अपने जवाब में कहा है कि उसने पहले ही सरकार द्वारा रेखांकित आपत्तिजनक सामग्री हटा दी है और वह कठोर कदम उठाने की तैयारी में है। इसके तहत ग्रोक का दुरुपयोग कर अश्लील सामग्री या वीडियो तैयार करने और उसे साझा करने वाले खातों पर स्थायी प्रतिबंध लगाना शामिल है।
सोमवार को आईटी मंत्रालय ने एक्स को जवाब देने के लिए बुधवार शाम पांच बजे तक का वक्त दिया था। एक अन्य अधिकारी ने कहा कि ग्रोक पर किए गए व्यापक ‘तकनीकी, प्रक्रियात्मक और शासन-स्तरीय’ समीक्षा की रिपोर्ट भी प्रस्तुत कर दी गई है और इसे सूचना प्रौद्योगिकी मंत्रालय द्वारा परखा जाएगा।
गत सप्ताह एक्स को भेजे एक पत्र में आईटी मंत्रालय की साइबर कानून शाखा ने प्लेटफार्म से कहा था कि वह ऐसी तमाम सामग्री की पहुंच समाप्त करे जो कानून का उल्लंघन करते हुए पहले ही तैयार या प्रसारित की जा चुकी है। वह सूचना प्रौद्योगिकी नियम 2021 के तहत निर्धारित समय सीमा का पालन करे और इस दौरान किसी प्रमाण को क्षति न पहुंचे।
अपने पत्र में मंत्रालय ने यह भी कहा था कि X को अपनी सेवा शर्तों और एआई-उपयोग प्रतिबंधों को लागू करना चाहिए, और ‘कड़े निवारक उपाय’ करने चाहिए, जिससे उन खातों को निलंबित करना, समाप्त करना या अन्य कार्रवाई करना शामिल है जो ग्रोक का उपयोग करके महिलाओं और बच्चों की यौन तस्वीर बना रहे हैं।
मंत्रालय के इस पत्र के एक दिन बाद, मस्क ने X पर एक पोस्ट में चेतावनी दी कि ‘जो कोई भी ग्रोक का उपयोग करके अवैध सामग्री बनाएगा, उसे वही परिणाम भुगतने होंगे जैसे कि अवैध सामग्री अपलोड करने पर भुगतने होते हैं।‘
