ईलॉन मस्क नियंत्रित सोशल मीडिया कंपनी ‘एक्स’ ने कहा है वह अपने एआई संचालित चैटबॉट ग्रोक के जरिये लोगों की अश्लील तस्वीरें तैयार करने पर अंकुश लगाने के लिए कदम उठा रही है। ‘एक्स’ ने कहा कि अब ग्रोक का बेजा इस्तेमाल कर महिलाओं एवं बच्चों की अश्लील सामग्री एवं तस्वीरें तैयार नहीं की जा सकेंगी।
गुरुवार को ‘एक्स’ के सुरक्षा खाते ने अपनी पोस्ट में कहा, ‘हमने ग्रोक खाते को लोगों की तस्वीरों के साथ छेड़छाड़ पर रोक लगाने के लिए तकनीकी उपाय कर रहे हैं। यह प्रतिबंध सभी उपयोगकर्ताओं (यूजर) पर लागू होंगे जिनमें भुगतान करने वाले उपभोक्ता (पेड सब्सक्राइबर) भी शामिल हैं।’
‘एक्स’ ने छवियां तैयार करने और इन्हें संपादित करने की आजादी केवल भुगतान करने वाले उपयोगकर्ताओं तक सीमित कर दी है। इस सोशल मीडिया कंपनी का कहना है कि इस कदम से महिलाओं और बच्चों की तस्वीरों के साथ छेड़छाड़ नहीं हो पाएगी ग्रोक का दुरुपयोग करने वाले लोगों के खिलाफ कार्रवाई भी हो सकेगी।
इस प्लेटफॉर्म पर महिलाओं ने शिकायत की थी कि उनकी तस्वीरों का दुरुपयोग अश्लील तस्वीरें बनाने के लिए किया जा रहा है। इन शिकायतों के बाद ग्रोक से केवल भुगतान करने वाले उपभोक्ता ही आपत्तिजनक और अश्लील तस्वीरें तैयार कर सकते थे।
भारत में ‘एक्स’ ने कहा कि उसने ग्रोक द्वारा तैयार ऐसी तकरीबन 3,500 आपत्तिजनक एवं अश्लील सामग्री हटा दी है। ‘एक्स’ ने एआई चैटबॉट का उपयोग अश्लील फोटो बनाने वाले लगभग 600 उपयोगकर्ताओं का पता लगाकर उन पर प्रतिबंध लगा दिया है। इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय द्वारा मांगी गई कार्रवाई रिपोर्ट के बाद ग्रोक की तरफ से यह प्रतिक्रिया आई है।
दिसंबर में कई महिला उपयोगकर्ताओं की तरफ से उनकी तस्वीरों के दुरुपयोग के बारे में शिकायतें आने के बाद आईटी मंत्रालय के साइबर कानून विभाग ने‘एक्स’ से कहा था कि ‘सूचना-प्रौद्योगिकी (आईटी) नियम, 2021 के तहत निर्धारित समयसीमा का सख्ती से पालन करते हुए आपत्तिजनक एवं अश्लील सामग्री बिना किसी देरी के हटा दी जाएं। यह भी सुनिश्चित किया जाए कि सबूतों के साथ छेड़छाड़ न हो।’
मंत्रालय ने एक्स को अपनी सेवा शर्तों एवं एआई उपयोग प्रतिबंधों को लागू करने और कड़े उपाय करने का भी निर्देश दिया था।
