भारत सरकार की सख्ती के बाद एलन मस्क के स्वामित्व वाले सोशल मीडिया प्लेटफॉर्म X ने बड़ा कदम उठाया है। X ने भारत के ऑनलाइन कंटेंट को लेकर बनाए कानूनों के पालन का भरोसा देते हुए 3,500 से ज्यादा आपत्तिजनक पोस्ट ब्लॉक कर दी हैं और 600 से ज्यादा अकाउंट्स को डिलीट किया है।
यह कार्रवाई AI चैटबॉट Grok के जरिए जनरेट हो रहे अश्लील और सेक्शुअल कंटेंट को लेकर सरकार की आपत्ति के बाद सामने आई है। जिसके बाद X ने अपनी गलती स्वीकार करते हुए भविष्य में ऐसे कंटेंट को रोकने पर सहमति जताई है।
सरकार की चेतावनी और MeitY की सख्ती
इस महीने की शुरुआत में इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने X को पत्र लिखकर प्लेटफॉर्म पर अश्लील कंटेंट को लेकर गंभीर खामियों की ओर इशारा किया था। मंत्रालय ने साफ कहा था कि भारत में कानून से ऊपर कोई नहीं है।
अधिकारियों ने चेतावनी दी थी कि यदि नियमों का पालन नहीं किया गया तो X को भारतीय कानून के तहत मिलने वाली कानूनी सुरक्षा भी खोनी पड़ सकती है। साथ ही यह भी स्पष्ट किया गया कि नियम तोड़ने पर अन्य प्लेटफॉर्म्स के खिलाफ भी इसी तरह की कार्रवाई की जाएगी।
सरकारी अधिकारियों ने साफ किया कि Grok को अब एक न्यूट्रल टूल नहीं माना जाएगा। सरकार के मुताबिक, Grok एक कंटेंट क्रिएटर है, फर्क सिर्फ इतना है कि वह इंसान नहीं, बल्कि आर्टिफिशियल इंटेलिजेंस है।
चूँकि Grok सीधे X जैसे बड़े प्लेटफॉर्म से जुड़ा है, इसलिए इसके असर और तेजी से फैलने की आशंका भी ज्यादा है। इसी वजह से सरकार ने इसके जरिए बनने वाले कंटेंट की जिम्मेदारी तय करने पर जोर दिया है।
अंतरराष्ट्रीय स्तर पर भी Grok पर आपत्ति
भारत ही नहीं अन्य देश भी Grok के जरिए बन रहे अश्लील कंटेंट को लेकर चिंता जता चुके हैं। इंडोनेशिया ने AI-जनरेटेड पोर्नोग्राफिक कंटेंट के चलते Grok को अस्थायी रूप से सस्पेंड कर दिया है। वहीं ब्रिटेन, फ्रांस और मलेशिया भी पहले इस तरह के कंटेंट पर आपत्ति दर्ज करा चुके हैं। भारत सरकार का मानना है कि AI का गलत इस्तेमाल खासकर महिलाओं और नाबालिगों के खिलाफ गंभीर खतरा बन सकता है, इसलिए इस पर सख्त नियंत्रण जरूरी है।
गौरतलब है कि इससे पहले X का एक परेशान करने वाला ट्रेंड सामने आया था। जिसकी मदद से लोग महिलाओं की सामान्य तस्वीरों पर xAI द्वारा बनाए गए एलन मस्क के AI चैटबॉट Grok को टैग करके उनसे महिलाओं के कपड़े बदलने, उन्हें बिकिनी पहनाने या और ज्यादा बोल्ड और अश्लील दिखाने को कह रहे थे और सबसे बड़ी बात की GRrok ऐसी तस्वीरें बना भी रहा था। खतरनाक बात तो ये है कि AI से बनी ये तस्वीरें रियल भी लगती हैं।
