Grok AI बना रहा महिलाओं की भद्दी तस्वीरें, मस्क की कंपनी को केंद्र का अल्टिमेटम, जानिए पूरा मामला
भारत सरकार ने सोशल मीडिया प्लेटफॉर्म एक्स (पूर्व में ट्विटर) के खिलाफ कड़ा रुख अपनाते हुए कड़ा नोटिस जारी किया है. इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय की तरफ से एलन मस्क की कंपनी को ये नोटिस एक्स के एआई टूल Grok (ग्रोक) के जरिए महिलाओं की अश्लील और आपत्तिजनक तस्वीरें बनाने और उन्हें शेयर करने की शिकायतों के बाद जारी किया गया है. सरकार ने 72 घंटे के अंदर कंपनी से जवाब मांगा है. सरकार ने एक्स को चेतावनी दी कि वह आईटी एक्ट 2000 और आईटी रूल्स 2021 के तहत अपनी जिम्मेदारियां निभाने में नाकाम रहा है. मंत्रालय ने इस बात पर गहरी चिंता जताई कि एक्स के आर्टिफिशियल इंटेलिजेंस टूल Grok का दुरुपयोग महिलाओं के अश्लील, अभद्र और सेक्सुअल कंटेंट बनाने के लिए किया जा रहा है. ये महिलाओं की गरिमा और प्राइवेसी के खिलाफ है और कानूनी सुरक्षा उपायों को भी कमजोर करता है.
मंत्रालय ने एलन मस्क की कंपनी को 72 घंटों के भीतर एक्शन टेकन रिपोर्ट (ATR) पेश करने का निर्देश दिया है. इस रिपोर्ट में एक्स को बताना होगा कि अश्लील कंटेंट रोकने के लिए उसने अब तक क्या कदम उठाए हैं. इस मामले में कंपनी के चीफ कंप्लायंस ऑफिसर की भूमिका क्या रही है. भारतीय नागरिक सुरक्षा संहिता (BNSS) 2023 के तहत अनिवार्य रिपोर्टिंग प्रक्रिया का पालन कैसे किया जा रहा है. इसके अलावा मंत्रालय ने एक्स को ग्रोक के टेक्निकल और गवर्नेंस फ्रेमवर्क के गहन रिव्यू का भी निर्देश दिया है ताकि आगे से इस तरह के गैरकानूनी कंटेंट को बनने से रोका जा सके. सरकार ने साफ कहा है कि ग्रोक को कड़े उपाय सुनिश्चित करने होंगे. सबूतों से छेड़छाड़ किए बिना सभी आपत्तिजनक कंटेंट को तुरंत हटाने और नियमों का उल्लंघन करने वाले यूजर्स के अकाउंट सस्पेंड या टर्मिनेट करने के भी निर्देश दिए हैं.
सरकार ने सख्त लहजे में कहा है कि अगर एक्स ने इन निर्देशों का पालन नहीं किया तो आईटी एक्ट की धारा 79 के तहत उसे मिलने वाला ‘सुरक्षा कवच’ हटाया जा सकता है. इसका मतलब होगा कि प्लेटफॉर्म पर पोस्ट किए गए किसी भी थर्ड पार्टी कंटेंट के लिए एक्स को सीधे तौर पर जिम्मेदार ठहराया जा सकेगा और उस पर बीएनएस, पोक्सो जैसे कानूनों के तहत आपराधिक मुकदमा चलाया जा सकेगा. शिवसेना (UBT) की सांसद प्रियंका चतुर्वेदी ने यह मुद्दा उठाते हुए केंद्रीय आईटी मंत्री अश्विनी वैष्णव को लेटर लिखा था. चतुर्वेदी ने बताया कि सोशल मीडिया पर एक नया और खतरनाक ट्रेंड शुरू हुआ है, जिसमें पुरुष फर्जी अकाउंट्स के जरिए महिलाओं की तस्वीरें पोस्ट कर रहे हैं और Grok AI को उन तस्वीरों को अश्लील बनाने के प्रॉम्प्ट (निर्देश) दे रहे हैं. महिलाओं द्वारा खुद पोस्ट की गई तस्वीरों को भी टारगेट किया जा रहा है. उन्होंने इसे एआई का घोर दुरुपयोग करार देते हुए कार्रवाई की मांग की.
शिवसेना (UBT) की सांसद प्रियंका चतुर्वेदी ने यह मुद्दा उठाते हुए केंद्रीय आईटी मंत्री अश्विनी वैष्णव को लेटर लिखा था. चतुर्वेदी ने बताया कि सोशल मीडिया पर एक नया और खतरनाक ट्रेंड शुरू हुआ है, जिसमें पुरुष फर्जी अकाउंट्स के जरिए महिलाओं की तस्वीरें पोस्ट कर रहे हैं और Grok AI को उन तस्वीरों को अश्लील बनाने के प्रॉम्प्ट (निर्देश) दे रहे हैं. महिलाओं द्वारा खुद पोस्ट की गई तस्वीरों को भी टारगेट किया जा रहा है. उन्होंने इसे एआई का घोर दुरुपयोग करार देते हुए कार्रवाई की मांग की.