नई दिल्ली : AI चैटबॉट Grok द्वारा महिलाओं की आपत्तिजनक और अश्लील तस्वीरें (Deepfakes) बनाए जाने के मामले को लेकर विवाद तेज हो गया है।
सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने हाल ही में स्पष्ट किया है कि Grok की क्षमता का दुरुपयोग कर महिलाओं की तस्वीरें बिना सहमति के “कम कपड़ों में” दिखाने और अश्लील इमेज बनाने का एक खतरनाक ट्रेंड चल रहा है। विदेशों में भी इसकी शिकायतें हुई हैं – उदाहरण के लिए रॉयटर्स ने बताया कि ब्राजील की एक महिला की फोटो पर ‘बिकिनी में दिखाओ’ जैसे प्रोम्प्ट दिए जाने पर Grok ने उसके नग्न चित्र बना डाले।आर्टिफिशियल इंटेलिजेंस (AI) के खतरनाक इस्तेमाल को लेकर भारत सरकार ने अब तक का सबसे सख्त कदम उठाया है।
शिवसेना (UBT) की सांसद प्रियंका चतुर्वेदी (Priyanka Chaturvedi) की शिकायत के बाद, इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने एलन मस्क (Elon Musk) की कंपनी X को नोटिस जारी कर 72 घंटे का अल्टीमेटम दिया है।
मुख्य अंश (Highlights)
क्या है पूरा विवाद?
हाल ही में सोशल मीडिया पर एक बेहद चिंताजनक ट्रेंड देखा गया, जहां यूजर्स X के प्रीमियम AI टूल ‘Grok’ का इस्तेमाल कर महिलाओं की सामान्य तस्वीरों को अश्लील तस्वीरों में बदल रहे थे। आरोप है कि Grok में ऐसे “एडिट” फीचर्स या प्रॉम्प्ट्स काम कर रहे थे, जो कमांड देने पर महिलाओं के कपड़े हटाकर (Nudify) उनकी न्यूड या सेमी-न्यूड इमेज जनरेट कर रहे थे।
सांसद प्रियंका चतुर्वेदी ने इस मुद्दे को गंभीरता से उठाते हुए आईटी मंत्री अश्विनी वैष्णव (Ashwini Vaishnaw) को पत्र लिखा था। उन्होंने इसे महिलाओं की गरिमा पर हमला और निजता का हनन बताते हुए तत्काल कार्रवाई की मांग की थी।
Grok AI और ‘न्यूडिफाई’ ट्रेंड का खतरा
एलन मस्क का AI टूल Grok अपने “अनफिल्टर्ड” (बिना रोक-टोक) अंदाज के लिए जाना जाता है, लेकिन यही खूबी अब मुसीबत बन गई है। रिपोर्ट्स के मुताबिक:
- यूजर्स ने “Make her wear less” (कपड़े कम करो) या “Remove clothes” जैसे प्रॉम्प्ट्स का इस्तेमाल किया।
- अन्य AI टूल्स (जैसे DALL-E या Midjourney) में ऐसे कीवर्ड्स ब्लॉक होते हैं, लेकिन Grok के सेफ्टी फिल्टर इसे रोकने में नाकाम रहे।
- इसका शिकार न केवल सेलिब्रिटीज बल्कि आम महिलाएं और नाबालिग बच्चियां भी हो रही हैं।
सरकार के नोटिस में क्या कहा गया है?
MeitY ने X Corp को भेजे गए अपने सख्त नोटिस में स्पष्ट किया है कि यह भारतीय कानूनों का सीधा उल्लंघन है। मंत्रालय ने कंपनी से जवाब मांगा है कि उनके प्लेटफॉर्म पर ऐसा फीचर क्यों और कैसे काम कर रहा है।
नोटिस की मुख्य बातें:
- 72 घंटे की समय सीमा: कंपनी को 72 घंटों के भीतर ‘एक्शन टेकन रिपोर्ट’ (ATR) जमा करनी होगी।
- सेफ हार्बर (Safe Harbour) खत्म करने की चेतावनी: सरकार ने चेतावनी दी है कि अगर X इस पर लगाम लगाने में विफल रहता है, तो उसे आईटी एक्ट की धारा 79 के तहत मिला “सेफ हार्बर” प्रोटेक्शन खत्म कर दिया जाएगा। इसका मतलब है कि यूजर द्वारा पोस्ट किए गए किसी भी कंटेंट के लिए सीधे कंपनी (X) कानूनी रूप से जिम्मेदार होगी।
- कानूनी उल्लंघन: नोटिस में कहा गया है कि यह न केवल आईटी नियमों का उल्लंघन है, बल्कि यह ‘भारतीय न्याय संहिता’ (BNS), ‘पॉक्सो एक्ट’ (POCSO – अगर तस्वीर नाबालिग की है) और ‘महिलाओं का अशिष्ट रूपण (प्रतिषेध) अधिनियम’ के तहत भी अपराध है।
प्रियंका चतुर्वेदी ने क्या कहा?
प्रियंका चतुर्वेदी ने इस कार्रवाई का स्वागत किया है। उन्होंने अपनी शिकायत में कहा था कि “यह सिर्फ फेक अकाउंट्स तक सीमित नहीं है, बल्कि आम महिलाओं की तस्वीरों का भी दुरुपयोग किया जा रहा है। यह AI फंक्शन का एक घिनौना और अस्वीकार्य दुरुपयोग है।”
Elon Musk और X की प्रतिक्रिया
इस मामले पर Elon Musk ने भी प्रतिक्रिया दी है। उन्होंने अपने पोस्ट में स्पष्ट किया कि कोई भी व्यक्ति जो Grok का इस्तेमाल कर अवैध सामग्री बनाएगा, उसे वैसी ही सज़ा होगी जैसी सीधे ऐसी सामग्री अपलोड करने पर होती है।
X के Global Government Affairs अकाउंट ने भी यही रुख दोहराया है: “Grok से अवैध सामग्री बनाने या प्रोम्प्ट भेजने पर व्यक्ति को उन्हीं परिणामों का सामना करना पड़ेगा जैसे सीधे अपलोड करने पर होता”।
इससे पहले Elon Musk ने कहा था की जिम्मेदारी यूजर की है टूल की नहीं। यह ठीक वैसे ही है जैसे किसी कलम से बुरी बातों को लिखना। यहाँ गलती कलम की नहीं लिखने वाले की है। यानी उनकी माने तो Grok तो केवल एक टूल है, अंतिम निर्णय उपयोगकर्ता का होता है कि वह क्या prompt (इनपुट )डालता है।
दूसरी ओर Grok की टीम ने भी मान लिया है कि कुछ सुरक्षा चूकों के कारण ‘Grok’ ने हाल में बच्चों की भी यौन तस्वीरें बनाईं थीं, जिन्हें बाद में हटाया गया। उन्होंने आश्वासन दिया है कि इसे उल्लंघन विहीन बनाने के लिए जरूरी सुधार किए जा रहे हैं।
सरकार ने स्पष्ट कर दिया है कि अब Grok के विरुद्ध व्यापक कार्रवाई होगी। मंत्रालय ने कह दिया है कि अगर X अपनी जवाबी रिपोर्ट नहीं भेजता या कंटेंट नहीं हटाता तो कंपनी के खिलाफ कड़ी कानूनी कदम उठाए जाएंगे।
अभी यह देखना बाकी है कि X और उसके मालिक Elon Musk सरकार के निर्देशों का पालन कैसे करेंगे।
निष्कर्ष
यह घटना भारत में AI रेगुलेशन के लिए एक टर्निंग पॉइंट साबित हो सकती है। सरकार का यह सख्त रवैया स्पष्ट करता है कि वह ‘अभिव्यक्ति की आजादी’ या ‘तकनीकी विकास’ की आड़ में महिलाओं की सुरक्षा से समझौता नहीं करेगी। अब सबकी नजरें X की तरफ हैं कि वे अगले 72 घंटों में सरकार को क्या जवाब देते हैं।
FAQ: Grok AI विवाद से जुड़े सवाल
Q: Grok AI क्या है?
Ans: Grok एक आर्टिफिशियल इंटेलिजेंस चैटबॉट है जिसे एलन मस्क की कंपनी xAI ने बनाया है और यह सोशल मीडिया प्लेटफॉर्म X (Twitter) पर उपलब्ध है।
Q: सेफ हार्बर (Safe Harbour) क्या होता है?
Ans: आईटी एक्ट की धारा 79 के तहत सोशल मीडिया कंपनियों को उनके यूजर्स द्वारा पोस्ट किए गए कंटेंट के लिए कानूनी सुरक्षा मिलती है। अगर यह हटा लिया जाए, तो कंपनी हर पोस्ट के लिए कोर्ट में जिम्मेदार होगी।
Q: क्या AI से किसी की फोटो एडिट करना अपराध है?
Ans: जी हां, बिना सहमति के किसी की तस्वीर को अश्लील बनाना या छेड़छाड़ करना आईटी एक्ट और भारतीय न्याय संहिता के तहत गंभीर अपराध है।
प्रातिक्रिया दे