सोशल मीडिया प्लेटफॉर्म X पर एक बेहद परेशान करने वाला ट्रेंड सामने आया है। लोग महिलाओं की सामान्य तस्वीरों पर xAI द्वारा बनाए गए एलन मस्क के AI चैटबॉट Grok को टैग करके उनसे महिलाओं के कपड़े बदलने, उन्हें बिकिनी पहनाने या और ज्यादा बोल्ड और अश्लील दिखाने को कह रहे हैं।
मई 2025 से Grok के लिए जानबूझकर नियम काफी ढीले रखे गए हैं। अब जब ऐसे अनुरोध बड़ी संख्या में आ रहे हैं, तो यह चैटबॉट बिना झिझक तस्वीरें एडिट करके महिलाओं को सेक्सुअल तरीके से प्रस्तुत कर रहा है। सबसे खतरनाक बात यह है कि ये AI से बदली गई तस्वीरें बिल्कुल असली जैसी दिखती हैं।
सीधे तौर पर कहें तो अजनबी लोग महिलाओं की तस्वीरें, जो अक्सर बिल्कुल सामान्य और गैर-यौन संदर्भ (non-sexual context) में शेयर की गई होती हैं, उसे उठा रहे हैं और सबके सामने एक AI से उन्हें ‘नंगा’ करने को कह रहे हैं।
Grok ऐसी तस्वीरें बनाकर जवाब दे रहा है, जिनमें महिलाएँ बिकिनी या इसी तरह के कपड़ों में दिखाई देती हैं। हैरानी की बात यह है कि अगर कोई यूजर महिला की पोज को भी वासना से भरा हुआ बनाने को कहता है, तो Grok वह भी कर देता है।
इसका असर तुरंत और साफ दिख रहा है। X पर Grok के रिप्लाई सेक्शन में ऐसे गैर-सहमति से बदले गए फोटो की भरमार हो गई है, जिससे भारी नाराजगी फैल रही है। दिलचस्प बात यह है कि Grok के X अकाउंट का मीडिया टैब बंद कर दिया गया है, लेकिन अगर कोई रिप्लाई सेक्शन में जाए, तो वहाँ अब भी ऐसी तस्वीरें भरी पड़ी हैं।
आमतौर पर AI चैटबॉट निजी माहौल में काम करते हैं। OpenAI का ChatGPT भी कुछ हद तक ऐसी इमेज बनाने की क्षमता रखता है, लेकिन वह सब निजी चैट तक सीमित रहता है। Grok यह सब खुलेआम, सबके सामने कर रहा है।
जो कंटेंट बाकी जगहों पर ब्लॉक हो जाता है या निजी चैट तक सीमित रहता है, वह यहाँ सार्वजनिक रूप से दिख रहा है। इससे अपमान, शर्मिंदगी और नुकसान कई गुना बढ़ जाता है। जब OpIndia ने खुद Grok से पूछा कि यह सब क्यों हो रहा है, तो Grok ने जवाब दिया कि एलन मस्क ने उसे जानबूझकर ‘स्पाइसी’ AI के रूप में पेश किया है, जिसमें बाकी AI की तुलना में कम पाबंदियाँ हैं।
मस्क खुद कह चुके हैं कि Grok उन सवालों के जवाब देगा, जिनसे दूसरे AI बचते हैं। इसका मतलब यह हुआ कि Grok हर सीमा को धकेल रहा है और लापरवाह बन गया है। भले ही वह पूरी नग्नता से इनकार करता हो, लेकिन गैर-सहमति वाले सेक्सुअल कंटेंट की बिल्कुल सीमा तक पहुँच जाता है। कुछ यूजर्स का तो यह भी दावा है कि थोड़ी चालाकी से नग्नता की रोक भी पार की जा सकती है।
Grok का यह रवैया Google के Gemini या OpenAI के ChatGPT से बिल्कुल अलग है। ये दोनों बेहद लोकप्रिय AI हैं और निजी आउटपुट में भी सख्त फिल्टर लगाते हैं। कहीं अगर गलती हो भी जाए, तो उसका दायरा सीमित रहता है। Grok के मामले में नुकसान इसलिए ज्यादा है क्योंकि इसका आउटपुट सार्वजनिक होता है।
यह भी देखा गया है कि Grok की टाइमलाइन लगभग पूरी तरह महिलाओं को डिजिटल तरीके से ज्यादा बोल्ड बनाने वाली तस्वीरों से भरी रहती है। जो एक सामान्य AI टूल होना चाहिए था, वह voyeurism (ताक-झाँक) की सार्वजनिक गैलरी बन गया है।
नैतिक प्रभाव, महिलाओं की सहमति और गरिमा
यह ट्रेंड सहमति, स्वायत्तता और गरिमा जैसे बुनियादी नैतिक मूल्यों पर सीधा हमला है। महिलाओं की तस्वीरें उनकी अनुमति के बिना बदली जा रही हैं और उन्हें बिकिनी में दिखाया जा रहा है। यह AI का कोई अच्छा प्रयोग नहीं है, बल्कि निजता का खुला उल्लंघन है।
इस तरह की हरकतें महिलाओं की डिजिटल स्वायत्तता छीन लेती हैं और उन्हें मनोरंजन, ट्रोलिंग या उत्पीड़न का सामान बना देती हैं। यह image-based sexual abuse है, जिसे आज गंभीर मानसिक आघात देने वाला उत्पीड़न माना जाता है।
एक कानूनी विशेषज्ञ के शब्दों में, यह गलती से हुआ महिला-विरोध नहीं है, बल्कि डिजाइन से किया गया है। Grok की ढीली और उकसाने वाली सोच इस तरह के दुरुपयोग को आसान बनाती है और उसे सार्वजनिक मंच देकर और बढ़ावा देती है।
डिजिटल सहमति को भी असली दुनिया की सहमति जितना ही गंभीर माना जाना चाहिए। ऑनलाइन शेयर की गई तस्वीर किसी को उसे सेक्सुअल रूप से बदलने की इजाजत नहीं देती। बिना अनुमति किसी सामान्य फोटो को सेक्सुअल फोटो में बदलना डीपफेक पोर्न और मॉर्फिंग जैसे अपराधों जैसा ही है।
इसका नुकसान केवल सैद्धांतिक नहीं है। पीड़ित महिलाओं को शर्मिंदगी, बदनामी, डर और मानसिक तनाव झेलना पड़ता है। रिपोर्ट्स बताती हैं कि कई महिलाएँ यह सब देखकर ऑनलाइन फोटो डालना ही बंद कर रही हैं, जो महिलाओं की डिजिटल मौजूदगी पर डर का साया डाल देता है।
इसका सांस्कृतिक नुकसान भी है। अगर इसे रोका नहीं गया, तो यह और खतरनाक डीपफेक, ब्लैकमेल और रिवेंज पोर्न तक पहुँच सकता है। Grok द्वारा इस व्यवहार को ‘मजेदार’ बताना इसकी असलियत को छिपाता है। यह बड़े पैमाने पर गैर-सहमति से किया गया यौन शोषण है, जो डिजाइन संबंधी विकल्पों के कारण संभव हुआ है और सार्वजनिक वितरण द्वारा और भी बढ़ गया है।
भारत में कानूनी पहलू और डिजिटल अधिकार
भारत में कानून के लिहाज से देखें तो किसी महिला की फोटो को बिना अनुमति सेक्सुअल इमेज में बदलना केवल अनैतिक ही नहीं, बल्कि गैरकानूनी भी हो सकता है। भले ही कानून में डीपफेक शब्द साफ तौर पर न लिखा हो, लेकिन कई धाराएँ ऐसे कृत्यों को कवर करती हैं।
आईटी एक्ट की धारा 66E निजता के उल्लंघन को दंडित करती है। भले ही बिकिनी को नग्नता न माना जाए, लेकिन AI से बनाई गई ऐसी तस्वीरें महिला की निजता और गरिमा पर हमला करती हैं। IPC की धारा 354D साइबर स्टॉकिंग से जुड़ी है। अगर किसी महिला को बार-बार इस तरह टारगेट किया जाए या उसकी बदली हुई तस्वीरें फैलायी जाएँ, तो यह ऑनलाइन उत्पीड़न माना जा सकता है।
IT एक्ट की धारा 67 और 67A अश्लील कंटेंट फैलाने पर रोक लगाती हैं। अगर AI आउटपुट ज्यादा अश्लील हो जाता है, तो उसे शेयर करने वाले जिम्मेदार हो सकते हैं। धारा 509, मानहानि के कानून और महिलाओं का अशोभनीय चित्रण निषेध अधिनियम भी लागू हो सकते हैं।
डिजिटल पर्सनल डेटा प्रोटेक्शन एक्ट, 2023 के तहत फोटो व्यक्तिगत डेटा है और बिना सहमति उसका इस्तेमाल कानून के खिलाफ है। IT रूल्स 2021 के अनुसार, प्लेटफॉर्म को ऐसे कंटेंट पर तुरंत कार्रवाई करनी होती है।
भारतीय अदालतें भी अब डीपफेक जैसे मामलों को गंभीरता से ले रही हैं। कई हस्तियों को AI से बने फर्जी कंटेंट के खिलाफ राहत मिली है। अदालतें साफ कह चुकी हैं कि बिना अनुमति किसी की तस्वीर या पहचान का इस्तेमाल उसकी गरिमा और निजता का उल्लंघन है।
पीड़ित महिलाओं के पास क्या हैं विकल्प
अगर किसी भारतीय महिला की तस्वीर का इस तरह दुरुपयोग होता है, तो उसके पास रास्ते मौजूद हैं। सबसे पहले सबूत इकट्ठा करें, जैसे स्क्रीनशॉट, लिंक, यूजरनेम और समय। X पर रिपोर्ट करें और साफ लिखें कि तस्वीर बिना सहमति बदली गई है।
स्थानीय साइबर क्राइम सेल या पुलिस में शिकायत दर्ज कराएँ। राष्ट्रीय साइबर क्राइम पोर्टल और राष्ट्रीय महिला आयोग से भी संपर्क किया जा सकता है। साइबर सुरक्षा एनजीओ या कानूनी सहायता संस्थाओं से मदद लें। दोष खुद पर न लें, गलती तकनीक का दुरुपयोग करने वालों की है। जरूरत पड़े तो कोर्ट से आदेश लेकर कंटेंट हटवाया जा सकता है।
यह पूरा मामला जवाबदेही, सख्त मॉडरेशन और सोच में बदलाव की माँग करता है। Reddit जैसे प्लेटफॉर्म पहले ही गैर-सहमति वाले पोर्न और डीपफेक पर रोक लगा चुके हैं। पुराने ट्विटर में भी ऐसी नीतियाँ थीं। आज का X, इसके उलट, ऐसा AI होस्ट कर रहा है जो यही सब पैदा कर रहा है।
xAI और X को तुरंत सख्त नियम लागू करने होंगे। ‘एजि’ या ‘बोल्ड’ होने के नाम पर सहमति तोड़ने की कोई नैतिक या तकनीकी वजह नहीं हो सकती। अगर बाकी AI किसी की तस्वीर बिना अनुमति बदलने से इनकार कर सकते हैं, तो Grok भी कर सकता है। प्लेटफॉर्म स्तर पर भी साफ रिपोर्टिंग, तेज कार्रवाई और बार-बार गलती करने वालों पर बैन जरूरी है।
इसके साथ-साथ सोच में बदलाव भी जरूरी है। महिलाओं को डिजिटल तरीके से उतारने की उत्सुकता समाज की गहरी समस्या दिखाती है। डिजिटल सहमति पर कोई समझौता नहीं होना चाहिए। सिर्फ इसलिए कि AI कुछ कर सकता है, इसका मतलब यह नहीं कि उसे बिना जिम्मेदारी इस्तेमाल किया जाए। xAI को तो कदम उठाने ही होंगे, लेकिन यूजर्स को भी अपनी जिम्मेदारी समझनी होगी।
यह रिपोर्ट मूल रुप से अंग्रेजी में अनुराग ने लिखी है। इसे पढ़ने के लिए यहाँ क्लिक करें।
