ईलॉन मस्क की सोशल मीडिया कंपनी X को भारत सरकार ने एक और मौका दिया है। कंपनी को अब 7 जनवरी तक एक विस्तृत रिपोर्ट जमा करनी होगी, जिसमें ये बताना पड़ेगा कि उन्होंने AI टूल्स के गलत इस्तेमाल से फैल रही अश्लील सामग्री पर क्या कदम उठाए हैं। ये फैसला तब आया जब X ने IT मिनिस्ट्री से और समय मांगा। पहले सरकार ने कंपनी को कड़ी चेतावनी दी थी और 72 घंटे में रिपोर्ट मांगी थी, जो 5 जनवरी तक पूरी होनी थी।
मामला ये है कि X के AI टूल Grok का लोग गलत फायदा उठा रहे हैं। यूजर्स फेक अकाउंट बनाकर महिलाओं की तस्वीरों या वीडियो को बदलकर अश्लील बना रहे हैं। ये सिर्फ फेक अकाउंट्स तक सीमित नहीं है, बल्कि असली यूजर्स की पोस्ट को भी निशाना बनाया जा रहा है। सरकार का कहना है कि ये सब प्लेटफॉर्म की सुरक्षा में बड़ी कमी को दिखाता है और AI का गलत इस्तेमाल है, जो कानून तोड़ रहा है।
2 जनवरी को IT मिनिस्ट्री ने X को एक पत्र भेजा, जिसमें साफ कहा गया कि कंपनी IT एक्ट और उसके नियमों का पालन नहीं कर रही। खासतौर पर अश्लील, अपमानजनक, पोर्नोग्राफिक या बच्चों से जुड़ी गैरकानूनी सामग्री पर। मिनिस्ट्री ने बताया कि ऐसे काम महिलाओं और बच्चों की इज्जत, निजता और सुरक्षा को ठेस पहुंचाते हैं। ये डिजिटल दुनिया में यौन शोषण को बढ़ावा देता है और इंटरमीडियरी प्लेटफॉर्म्स की जिम्मेदारी को कमजोर करता है।
सरकार ने X को साफ निर्देश दिया कि वे ऐसी कोई भी सामग्री को होस्ट, दिखाने, अपलोड, शेयर या स्टोर न करें जो कानून के खिलाफ हो। कंपनी को अपने यूजर टर्म्स और AI इस्तेमाल की पाबंदियों को सख्ती से लागू करना होगा। इसमें यूजर्स पर सस्पेंशन या अकाउंट बंद करने जैसे कदम शामिल हैं। साथ ही, पहले से फैली हुई गैरकानूनी सामग्री को तुरंत हटाना या ब्लॉक करना जरूरी है, वो भी IT रूल्स 2021 के टाइमलाइन के मुताबिक, और सबूतों को बिना छेड़े।
Also Read: ईलॉन मस्क की दौलत 600 अरब डॉलर के पार, बेजोस और जुकरबर्ग की कुल संपत्ति से भी आगे
मिनिस्ट्री ने ये भी चेतावनी दी कि अगर कंपनी अपनी जिम्मेदारी नहीं निभाती, तो IT एक्ट की धारा 79 के तहत मिलने वाली छूट खत्म हो सकती है। ये धारा ऑनलाइन प्लेटफॉर्म्स को यूजर्स के कंटेंट की जिम्मेदारी से बचाती है, लेकिन ये तभी लागू होती है जब कंपनी पूरी ईमानदारी से काम करे। अगर ऐसा नहीं हुआ, तो X पर IT एक्ट और भारतीय न्याय संहिता के तहत कार्रवाई हो सकती है। रिपोर्ट में कंपनी को बताना होगा कि Grok के लिए क्या तकनीकी और संगठनात्मक कदम उठाए गए, चीफ कंप्लायंस ऑफिसर की क्या भूमिका रही, कितने यूजर्स और अकाउंट्स पर एक्शन लिया गया, और कानूनी रिपोर्टिंग कैसे सुनिश्चित की जा रही है।
X ने इस पर अपनी सफाई दी है। रविवार को कंपनी की ‘सेफ्टी’ हैंडल से एक पोस्ट आई, जिसमें कहा गया कि वे प्लेटफॉर्म पर गैरकानूनी सामग्री के खिलाफ सख्त हैं। इसमें बच्चों से जुड़ी यौन शोषण सामग्री (CSAM) भी शामिल है। कंपनी ने वादा किया कि ऐसी सामग्री को हटाया जाएगा, अकाउंट्स को हमेशा के लिए बंद किया जाएगा, और लोकल सरकारों व पुलिस के साथ मिलकर काम किया जाएगा।
खास बात ये कि X ने Grok को लेकर साफ कहा कि अगर कोई यूजर इस AI को गैरकानूनी कंटेंट बनाने के लिए इस्तेमाल करेगा, तो उसे वही सजा मिलेगी जो अपलोड करने वाले को मिलती है। ये ईलॉन मस्क की पुरानी लाइन दोहराती है कि अवैध सामग्री पर कोई बर्दाश्त नहीं। कंपनी ने सरकार से और समय मांगा, जो मिल गया, और अब 7 जनवरी तक रिपोर्ट देनी है।
ये समस्या सिर्फ भारत तक नहीं है। ब्रिटेन और मलेशिया में भी X की आलोचना हो रही है। ब्रिटेन की कम्युनिकेशंस रेगुलेटर Ofcom ने हाल ही में एक पोस्ट में कहा कि उन्हें Grok पर एक फीचर की शिकायत मिली है, जो लोगों की नंगी तस्वीरें या बच्चों की यौनकृत इमेज बनाता है। Ofcom ने X और xAI से तुरंत संपर्क किया और पूछा कि उन्होंने यूजर्स की सुरक्षा के लिए क्या कदम उठाए हैं। उनकी प्रतिक्रिया के आधार पर जांच शुरू हो सकती है।
मलेशिया में भी इसी तरह की चिंताएं हैं, जहां अधिकारी प्लेटफॉर्म पर AI मिसयूज को लेकर सवाल उठा रहे हैं। कुल मिलाकर, X को अब दुनिया भर में अपनी AI सर्विसेज पर कंट्रोल सख्त करना होगा, वरना और मुश्किलें आ सकती हैं। कंपनी को ये दिखाना पड़ेगा कि वे यूजर्स की सुरक्षा को कितनी गंभीरता से ले रही हैं।
(PTI के इनपुट के साथ)
