सोशल मीडिया प्लेटफॉर्म X ने Grok AI से उत्पन्न अश्लील सामग्री मामले में गलती मानी। 3,500 पोस्ट हटाई गईं, 600 से अधिक खाते ब्लॉक किए गए और भविष्य में भारतीय कानूनों के अनुसार काम करने का आश्वासन दिया गया।
नई दिल्ली: सोशल मीडिया प्लेटफॉर्म X ने अपने AI टूल Grok के माध्यम से उत्पन्न अश्लील सामग्री के मामले में अपनी गलती स्वीकार कर ली है। सरकारी सूत्रों के अनुसार, X ने अधिकारियों को भरोसा दिलाया है कि वह भारतीय कानूनों और नियमों के अनुसार काम करेगा। यह कदम प्लेटफॉर्म पर अश्लील और आपत्तिजनक सामग्री के प्रसार के बाद उठाया गया, जिसमें से कई पोस्ट कथित रूप से Grok AI टूल से उत्पन्न की गई थीं।
X ने इस मुद्दे को गंभीरता से लेते हुए लगभग 3,500 अश्लील सामग्री को ब्लॉक किया और 600 से अधिक खातों को हटा दिया। कंपनी ने यह भी स्पष्ट किया कि भविष्य में प्लेटफॉर्म पर ऐसी अश्लील छवियों की अनुमति नहीं दी जाएगी।
सरकार ने पहले जवाब को पाया था अपर्याप्त
इससे पहले, भारतीय सरकार ने X से Grok AI से जुड़ी अश्लील सामग्री पर की गई कार्रवाई और भविष्य में इसे रोकने के उपायों के बारे में विस्तृत जानकारी मांगी थी। सरकार ने पहले जवाब को अपर्याप्त पाया क्योंकि इसमें कई महत्वपूर्ण जानकारियां शामिल नहीं थीं।
पहले जवाब में X ने भ्रामक पोस्ट और गैर-सहमति से प्राप्त यौन उत्तेजक छवियों को हटाने के अपने नियमों की रूपरेखा दी थी। हालांकि, Grok AI द्वारा उत्पन्न अश्लील सामग्री पर क्या कार्रवाई की गई और इसे रोकने के लिए आगे क्या कदम उठाए जाएंगे, इस पर पर्याप्त जानकारी नहीं दी गई थी।
सूचना प्रौद्योगिकी मंत्रालय ने दी कड़ी चेतावनी
दो जनवरी को सूचना प्रौद्योगिकी मंत्रालय ने Grok और अन्य AI-आधारित टूल्स के दुरुपयोग के माध्यम से उत्पन्न अश्लील और यौन सामग्री के संबंध में X को कड़ी चेतावनी जारी की थी। मंत्रालय ने कहा था कि ऐसी सामग्री प्लेटफॉर्म की सुरक्षा नीतियों के खिलाफ है और इसके लिए कंपनी को तुरंत कार्रवाई करनी चाहिए।
X के ‘सेफ्टी’ हैंडल ने कहा कि वह अवैध सामग्री, जिसमें बाल यौन शोषण सामग्री (CSAM) भी शामिल है, के खिलाफ कार्रवाई करता है। इसके तहत अवैध सामग्री को हटाना, खातों को स्थायी रूप से निलंबित करना और जरूरत पड़ने पर स्थानीय सरकारों और कानून प्रवर्तन एजेंसियों के साथ काम करना शामिल है।
Grok AI का उपयोग और परिणाम
X ने यह स्पष्ट किया कि Grok AI का उपयोग करके या उससे अवैध सामग्री उत्पन्न करने वाले किसी भी व्यक्ति के खिलाफ वही परिणाम लागू होंगे जो कि सामान्य अवैध सामग्री अपलोड करने पर होते हैं। प्लेटफॉर्म ने यह कदम यूजर्स को चेतावनी देने और AI टूल के दुरुपयोग को रोकने के उद्देश्य से उठाया है।
विशेषज्ञों का मानना है कि AI आधारित टूल्स के कारण सोशल मीडिया पर आपत्तिजनक सामग्री की समस्या बढ़ रही है। ऐसे में प्लेटफॉर्म की जिम्मेदारी बनती है कि वह भारतीय कानूनों के अनुसार सख्ती से कार्रवाई करे और भविष्य में इस तरह की सामग्री की पुनरावृत्ति को रोके।
X की सुधार योजना
X ने अधिकारियों को आश्वासन दिया कि वह सामग्री मॉडरेशन में सुधार करेगा और भारतीय कानूनों का पूरी तरह पालन करेगा। कंपनी ने कहा कि वह भविष्य में प्लेटफॉर्म पर अश्लील और गैरकानूनी सामग्री की अनुमति नहीं देगा। इसके अलावा, X ने कहा कि वह AI टूल्स के दुरुपयोग को रोकने के लिए नई नीतियां लागू करेगा और यूजर्स को चेतावनी देगा।
