नई दिल्ली: एलन मस्क के स्वामित्व वाला सोशल मीडिया प्लेटफॉर्म एक्स (पूर्व में ट्विटर) विवादों में आ गया है। यह पूरा विवाद इसके एआई ग्रोक (AI Grok) के दुरुपयोग को लेकर हैं। बढ़ते विवाद के बीच इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने शुक्रवार को एक्स कॉर्प पर अपने प्लेटफॉर्म पर अश्लील, नग्न और आपत्तिजनक कंटेंट बनने और सर्कुलेट होने से रोकने में नाकाम रहने पर कार्रवाई की।
सरकार ने एक्स कॉर्प को निर्देश दिया है कि वह 72 घंटे के भीतर एक ‘एक्शन टेकन रिपोर्ट’ भेजे। सरकार ने कहा है कि यह रिपोर्ट एक्स के एआई आधारित सेवाओं जैसे ‘ग्रोक’ और एक्स एआई की अन्य सेवाओं के दुरुपयोग के जरिए अश्लील, नग्न, आपत्तिजनक और स्पष्ट सामग्री की होस्टिंग, निर्माण, प्रकाशन, प्रसारण, साझा करने या अपलोड करने को रोकने के लिए की गई तत्काल कार्रवाई से संबंधित होगी।
निर्देश में कहा गया है कि इन आवश्यकताओं का पालन न करने को गंभीरता से लिया जाएगा और आईटी एक्ट, आईटी नियमों, बीएनएसएस, बीएनएस और अन्य लागू कानूनों के तहत बिना किसी अतिरिक्त नोटिस के प्लेटफॉर्म, उसके जिम्मेदार अधिकारियों और कानून का उल्लंघन करने वाले यूजरों के खिलाफ सख्त कानूनी कार्रवाई की जा सकती है।
एक्स के एआई ग्रोक से जुड़ा विवाद क्या है?
दरअसल, एक्स पर इन दिनों एक बेहद घिनौना ट्रेंड सामने आया है। यह बात सामने आई है कि कई यूजर महिलाओं की सामान्य तस्वीरें ग्रोक एआई को दे रहे हैं और निर्देश दे रहे हैं कि वह इन तस्वीरों में महिला के कपड़े बदल दे या हटा दे। हैरान करने वाली बात ये है कि ग्रोक इन निर्देशों को आसानी से स्वीकार भी कर रहा है। इससे ग्रोक और ट्विटर पर हजारों तस्वीरों की बाढ़ सी आ गई है जिसमें आम महिलाओं की तस्वीरों को भद्दे तरीके से प्रस्तुत किया गया है।
कुछ मीडिया रिपोर्ट के अनुसार महिलाओं के अलावा बच्चों की भी आपत्तिजनक तस्वीरें ग्रोक तैयार कर रहा है। यह समस्या केवल फर्जी खातों तक सीमित नहीं है, बल्कि उन महिलाओं को भी निशाना बनाया जा रहा है जो खुद अपनी तस्वीरें या वीडियो पोस्ट करती हैं। प्रॉम्प्ट, इमेज मैनिपुलेशन और कृत्रिम आउटपुट के जरिए ऐसा किया जा रहा है।
कुल मिलाकर कहानी ये है कि यूजर ग्रोक का खुलेआम दुरुपयोग कर रहे हैं और एलन मस्क या एक्स इसके खिलाफ फिलहाल कोई भी कदम उठाते नहीं दिख रहे हैं।
विवाद बढ़ने के बाद भारत के आईटी मंत्रालय ने कहा कि नियमों का पालन न होने पर आईटी एक्ट की धारा 79 के तहत मिलने वाला ‘सेफ हार्बर’ संरक्षण खत्म हो सकता है, और बीएनएस, महिलाओं के अशोभनीय चित्रण अधिनियम तथा बच्चों के यौन अपराधों से संरक्षण अधिनियम सहित कई कानूनों के तहत दंडात्मक कार्रवाई हो सकती है।
दूसरे देशों में भी ग्रोक के दुरुपयोग पर हलचल
ग्रोक के दुरुपयोग की कहानी केवल भारत में सीमित नहीं है। भारत के बाहर दूसरे देशों से भी ऐसे मामले सामने आ रहे हैं जहां महिलाओं की तस्वीरों का गलत इस्तेमाल हो रहा है।
समाचार एजेंसी रॉयटर्स ऐसा ही एक मामला ब्राजील में सामने आया है। रियो डी जनेरियो में रहने वाली म्यूजिशियन जूली युकारी ने अपना अनुभव साझा किया है। उन्होंने बताया कि नए साल की शाम को आधी रात से ठीक पहले सोशल मीडिया साइट X पर उन्होंने अपने मंगेतर द्वारा खींची गई एक फोटो पोस्ट की, जिसमें वह लाल ड्रेस पहनकर अपनी काली बिल्ली नोरी के साथ बिस्तर पर लेटी हुई थी। अगले दिन उस तस्वीर पर आए सैकड़ों लाइक्स के बीच जूली ने देखा कि यूजर्स X के बिल्ट-इन आर्टिफिशियल इंटेलिजेंस चैटबॉट ग्रोक से उसे डिजिटल रूप से बिकिनी में बदलने के लिए कह रहे थे।
31 साल की उस महिला ने शुक्रवार को रॉयटर्स को बताया कि उसने इस बारे में तब ज्यादा नहीं सोचा। उसे लगा था कि बॉट ऐसी रिक्वेस्ट नहीं मानेगा। लेकिन वह गलत साबित हुई। कुछ ही देर में ग्रोक द्वारा बनाई गई जूली की लगभग नग्न तस्वीरें एलन मस्क के प्लेटफॉर्म पर वायरल हो गईं।
समाचार एजेंसी रॉयटर्स ने बताया है कि उसे X पर ऐसे कई मिलते-जुलते मामले मिले हैं, जिनमें बच्चों से जुड़े मामले भी शामिल हैं। समाचार एजेंसी के अनुसार एक्स ने इन नतीजों पर टिप्पणी के लिए उसके अनुरोध का जवाब नहीं दिया है।
इस बीच फ्रांस के मंत्रियों ने इस मामले की जानकारी प्रॉसिक्यूटर और रेगुलेटर को दी है, और कंटेंट को गैर-कानूनी बताया है। एजेंसी ने कहा कि एक्सपर्ट और बाल-सुरक्षा समूहों ने पहले ही xAI को चेतावनी दी थी कि इस सिस्टम का इस्तेमाल बिना सहमति के सेक्शुअल तस्वीरों के लिए किया जा सकता है।
