सोशल मीडिया प्लेटफॉर्म X ने अपने AI चैटबॉट Grok के दुरुपयोग से बने अश्लील और आपत्तिजनक कंटेंट को लेकर अपनी कमियां स्वीकार की हैं। भारत सरकार की सख्ती और इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय (MeitY) की नोटिस के बाद कंपनी ने तुरंत एक्शन लिया।
सरकारी सूत्रों के मुताबिक, X ने पिछले कुछ दिनों में करीब 3,500 से ज्यादा पोस्ट्स और कंटेंट को ब्लॉक कर दिया है, साथ ही 600 से अधिक अकाउंट्स को स्थायी रूप से डिलीट कर दिया गया है। कंपनी ने स्पष्ट आश्वासन दिया है कि अब से Grok AI के जरिए किसी भी तरह की अश्लील, सेक्सुअली एक्सप्लिसिट या गैर-सहमति वाली इमेजरी बनाने की अनुमति नहीं होगी।
विवाद कैसे शुरू हुआ?
नए साल के शुरुआती दिनों में Grok के इमेज जनरेशन और एडिटिंग फीचर का बड़े पैमाने पर गलत इस्तेमाल हुआ। यूजर्स ने महिलाओं, सेलिब्रिटीज़ और कुछ मामलों में नाबालिगों की तस्वीरों को प्रॉम्प्ट्स देकर अश्लील रूप में बदल दिया। ये इमेजेस X पर वायरल होकर तेजी से फैल रही थीं, जिससे महिलाओं की गरिमा और प्राइवेसी का गंभीर उल्लंघन हुआ।
MeitY ने 2 जनवरी 2026 को X को नोटिस जारी कर तुरंत कार्रवाई, तकनीकी जांच और 72 घंटे में एक्शन टेकन रिपोर्ट मांगी थी। मंत्रालय ने इसे महिलाओं के खिलाफ “घोर दुरुपयोग” करार दिया।
X की ओर से क्या कदम उठाए गए?
- कंपनी ने गलती मानते हुए भारतीय कानूनों का पूरी तरह पालन करने का वादा किया।
- अश्लील कंटेंट बनाने वाले यूजर्स को भी सख्त चेतावनी दी गई – ऐसा कंटेंट जनरेट करने पर वही सजा मिलेगी जो इसे पोस्ट करने पर मिलती है।
- पहले से ही Grok के इमेज फीचर को ज्यादातर फ्री यूजर्स के लिए बंद कर दिया गया है (केवल पेड सब्सक्राइबर्स के लिए उपलब्ध)।
- प्लेटफॉर्म ने कंटेंट मॉडरेशन सिस्टम को और मजबूत करने का फैसला किया है।
यह मुद्दा सिर्फ भारत तक सीमित नहीं रहा। इंडोनेशिया ने Grok पर अस्थायी रोक लगा दी, जबकि यूरोपीय संघ, फ्रांस, मलेशिया और ब्रिटेन जैसे देशों में भी जांच और सख्ती बढ़ गई है। कई जगहों पर इसे “गैर-कानूनी और घृणित” बताया गया है।
X ने बयान में कहा कि यूजर सेफ्टी सबसे ऊपर है और अवैध कंटेंट को बर्दाश्त नहीं किया जाएगा। विशेषज्ञों का कहना है कि यह घटना AI टूल्स के नैतिक इस्तेमाल और वैश्विक रेगुलेशन पर नई बहस छेड़ेगी।
भारत में ऑनलाइन सेफ्टी और डीपफेक से जुड़े कानूनों के तहत कंपनियों की जिम्मेदारी बढ़ गई है। सरकार और प्लेटफॉर्म्स के बीच यह सहयोग महिलाओं और बच्चों की सुरक्षा के लिए महत्वपूर्ण कदम माना जा रहा है।
