भारत सरकार ने सोशल मीडिया प्लेटफॉर्म एक्स (पूर्व में ट्विटर) को उसके एआई टूल ग्रोक के गलत इस्तेमाल पर सख्त नोटिस जारी किया है। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (मीटाई) ने कंपनी को चेतावनी दी है कि ग्रोक का उपयोग करके महिलाओं और बच्चों को निशाना बनाकर अश्लील, आपत्तिजनक और यौन रूप से स्पष्ट सामग्री तैयार की जा रही है, जो गोपनीयता और गरिमा का उल्लंघन है।
मंत्रालय ने एक्स को निर्देश दिए हैं कि वह ग्रोक के तकनीकी ढांचे, प्रक्रियाओं और प्रशासनिक व्यवस्था की तत्काल गहन जांच करे। साथ ही, प्लेटफॉर्म पर मौजूद सभी गैरकानूनी सामग्री को फौरन हटाया जाए या उसकी पहुंच रोकी जाए। ऐसे यूजर्स के अकाउंट्स जिन्होंने ग्रोक के जरिए यह सामग्री बनाई या साझा की, उन्हें तुरंत ब्लॉक किया जाए। कंपनी को इन कदमों पर उठाई गई कार्रवाई की पूरी रिपोर्ट 72 घंटों में सौंपनी होगी।
नोटिस में कहा गया है कि एक्स को अपने नियमों और एआई उपयोग की शर्तों को कड़ाई से लागू करना होगा। आईटी एक्ट 2000 और आईटी नियम 2021 का पालन न करने पर कंपनी को गंभीर कानूनी नतीजे भुगतने पड़ सकते हैं, जिसमें धारा 79 के तहत मिलने वाली दायित्व मुक्ति (सेफ हार्बर) छीन ली जाएगी। इसके बाद प्लेटफॉर्म पर किसी भी अवैध कंटेंट के लिए कंपनी सीधे जिम्मेदार होगी और भारतीय न्याय संहिता, महिलाओं के अश्लील चित्रण निषेध अधिनियम तथा बच्चों के यौन अपराधों से संरक्षण अधिनियम (पॉक्सो) जैसी धाराओं के तहत मुकदमा चल सकता है।
केंद्रीय मंत्री अश्विनी वैष्णव ने इस मुद्दे पर सख्ती दिखाते हुए कहा कि सोशल मीडिया कंपनियों को अपने प्लेटफॉर्म पर मौजूद कंटेंट की पूरी जवाबदेही लेनी होगी। उन्होंने जोर दिया कि डिजिटल माध्यमों का समाज पर बड़ा असर होता है, इसलिए ऐसी हानिकारक सामग्री पर रोक लगाना जरूरी है।
यह कार्रवाई हालिया शिकायतों के बाद आई है, जिसमें यूजर्स ग्रोक का इस्तेमाल करके महिलाओं की तस्वीरों में बदलाव कर उन्हें यौन रूप से उत्तेजक बनाने की कोशिश कर रहे थे। सरकार का यह कदम एआई के अनैतिक उपयोग को रोकने और ऑनलाइन स्पेस को सुरक्षित बनाने की दिशा में एक मजबूत संदेश देता है।
