एलन मस्क के Grok चैटबॉट पर अश्लील और डीपफेक इमेज बनाने को लेकर अंतरराष्ट्रीय विवाद के बीच अब केवल पेड वेरिफाइड यूजर्स ही तस्वीरें बना पाएंगे। इससे फ्री यूजर्स की पहुँच खत्म होगी और मॉनिटरिंग आसान होगी।
Grok पर विवाद और यूजर्स पर नई पाबंदी
एलन मस्क के सोशल मीडिया प्लेटफॉर्म X का चैटबॉट Grok हाल ही में विवादों में आ गया है। इस पर कई यूजर्स अश्लील और आपत्तिजनक इमेज बनाने के लिए इसका इस्तेमाल कर रहे थे। खासतौर पर महिलाओं को यौन रूप से स्पष्ट स्थितियों में दिखाने और बच्चों को आपत्तिजनक ढंग से दिखाने जैसी तस्वीरें बनाई जा रही थीं।
इस विवाद के बीच, कई देशों की सरकारों ने X के खिलाफ जांच शुरू कर दी और प्लेटफॉर्म की कड़ी आलोचना की। ऐसे में एलन मस्क ने Grok पर तस्वीर बनाने की सुविधा को सीमित करने का बड़ा कदम उठाया।
अब Grok पर इमेज जेनरेट या एडिट करने के लिए यूजर्स को ब्लू टिक और पेड वेरिफाइड होना अनिवार्य है। पहले यह फीचर फ्री यूजर्स के लिए भी उपलब्ध था।
पेड वेरिफाइड यूजर्स ही करेंगे फायदा
इस फैसले का मतलब यह है कि अब फ्री यूजर्स Grok पर तस्वीर नहीं बना पाएंगे। केवल सब्सक्राइब किए हुए पेड यूजर्स को ही यह सुविधा मिलेगी।
इस बदलाव का सबसे बड़ा फायदा यह है कि अगर कोई अश्लील या डीपफेक इमेज बनाता है, तो कंपनी को पता होगा कि कौन सा पेड यूजर ऐसा कर रहा है। इसके बाद X इस यूजर के खिलाफ कार्रवाई कर सकेगा।
अश्लील कंटेंट के मामले में दुनिया भर की आलोचना
पिछले कुछ हफ्तों में Grok पर कई यूजर्स ने महिलाओं और बच्चों की आपत्तिजनक तस्वीरों के लिए रिक्वेस्ट की थी। इस वजह से दुनिया भर में सरकारों और सोशल मीडिया यूजर्स ने X की निंदा की।
भारत सरकार सहित कई देशों ने इस मामले में X से जवाब मांगा और जांच शुरू की। कई सोशल मीडिया यूजर्स ने भी प्लेटफॉर्म पर कार्रवाई की मांग की।
अब प्लेटफॉर्म की जवाबदेही बढ़ी
Grok पर पेड यूजर्स के लिए इमेज जेनरेशन और एडिटिंग की अनुमति देने से X को अब कंटेंट मॉनिटर करने में आसानी होगी। इस फैसले के बाद प्लेटफॉर्म पर अश्लील और डीपफेक इमेज बनाने वाले लोगों पर कड़ी निगरानी रखी जा सकेगी।
एलन मस्क की कंपनी ने यह कदम अपने प्लेटफॉर्म को सुरक्षित और जिम्मेदार बनाने के लिए उठाया है, ताकि Grok का गलत इस्तेमाल रोका जा सके।
