चीन ने इंसानों जैसी भावनाएं दिखाने वाले एआई चैटबॉट्स पर नियंत्रण के लिए नए ड्राफ्ट नियम जारी किए हैं। मकसद लोगों को एआई की लत, भावनात्मक निर्भरता और हानिकारक कंटेंट से बचाना है। नियम अभी सार्वजनिक सुझावों के चरण में हैं।
China: चीन ने आर्टिफिशियल इंटेलिजेंस (AI) को लेकर एक बड़ा कदम उठाया है। चीनी सरकार ने ऐसे एआई टूल्स और सर्विसेज को नियंत्रित करने के लिए नए ड्राफ्ट नियम जारी किए हैं, जो इंसानों की तरह भावनाएं दिखाते हैं और यूजर्स से भावनात्मक बातचीत करते हैं। इन नियमों को चीन के साइबर रेगुलेटर ने सार्वजनिक राय के लिए पेश किया है।
सरकार का मानना है कि ऐसे एआई चैटबॉट्स और वर्चुअल साथी तेजी से लोकप्रिय हो रहे हैं। लोग इन्हें दोस्त, साथी या भावनात्मक सहारा मानने लगे हैं। हालांकि, इसके साथ मानसिक स्वास्थ्य से जुड़े खतरे भी बढ़ रहे हैं। इसी वजह से चीन इन एआई सिस्टम्स पर नियंत्रण लाना चाहता है, ताकि तकनीक का इस्तेमाल सुरक्षित और सीमित दायरे में रहे।
किन एआई सर्विसेज पर लागू होंगे नियम
प्रस्तावित नियम उन सभी एआई प्रोडक्ट्स और सर्विसेज पर लागू होंगे, जो चीन में आम लोगों को उपलब्ध कराई जाती हैं। इनमें टेक्स्ट, फोटो, ऑडियो और वीडियो के जरिए बातचीत करने वाले एआई टूल्स शामिल हैं।
खासतौर पर ऐसे एआई सिस्टम्स पर फोकस किया गया है, जो इंसानों जैसी पर्सनैलिटी दिखाते हैं, भावनाएं समझने और जाहिर करने का दावा करते हैं और यूजर्स से गहरा भावनात्मक रिश्ता बनाते हैं। उदाहरण के तौर पर दोस्त या साथी की तरह व्यवहार करने वाले चैटबॉट्स, जो यूजर की बात सुनते हैं और भावनात्मक जवाब देते हैं।
सरकार का कहना है कि इस तरह के एआई टूल्स यूजर्स को धीरे-धीरे अपनी ओर आकर्षित कर लेते हैं और कई बार लोग इन पर जरूरत से ज्यादा निर्भर हो जाते हैं। यह स्थिति खासतौर पर युवाओं और अकेलेपन से जूझ रहे लोगों के लिए खतरनाक हो सकती है।
एआई की लत से बचाने पर सबसे ज्यादा जोर
नए ड्राफ्ट नियमों में सबसे अहम मुद्दा यूजर्स को एआई की लत से बचाना है। नियमों के मुताबिक, एआई सर्विस देने वाली कंपनियों को यह जिम्मेदारी लेनी होगी कि उनके प्लेटफॉर्म का इस्तेमाल सीमित और सुरक्षित तरीके से हो।
अगर कोई यूजर एआई का जरूरत से ज्यादा इस्तेमाल करता है या भावनात्मक रूप से उस पर निर्भर होने लगता है, तो कंपनी को समय रहते हस्तक्षेप करना होगा। इसके लिए कंपनियों को ऐसे सिस्टम बनाने होंगे, जो यूजर्स की भावनात्मक स्थिति और इस्तेमाल के पैटर्न को समझ सकें।
उदाहरण के तौर पर, अगर कोई यूजर लगातार दो घंटे से ज्यादा समय तक एआई से बातचीत करता है, तो स्क्रीन पर पॉप-अप दिखाकर उसे ब्रेक लेने की सलाह देनी होगी। इसके अलावा, लॉगिन के समय या दोबारा इस्तेमाल करते वक्त यह साफ-साफ बताना होगा कि यूजर किसी इंसान से नहीं, बल्कि एक एआई सिस्टम से बात कर रहा है।
सरकार चाहती है कि लोग एआई को सहायक टूल की तरह इस्तेमाल करें, न कि भावनात्मक सहारे के रूप में।
कंटेंट पर भी तय की गई सख्त सीमाएं
ड्राफ्ट नियमों में एआई द्वारा बनाए जाने वाले कंटेंट को लेकर भी साफ दिशानिर्देश दिए गए हैं। एआई सर्विसेज ऐसी कोई सामग्री तैयार नहीं कर सकेंगी, जो राष्ट्रीय सुरक्षा के लिए खतरा बने, अफवाह फैलाए या समाज में हिंसा को बढ़ावा दे।
इसके अलावा अश्लील, भड़काऊ या नैतिक रूप से गलत कंटेंट पर भी पूरी तरह रोक होगी। यह नियम चीन में पहले से लागू एआई और इंटरनेट कंटेंट नियमों के अनुरूप हैं। सरकार का कहना है कि एआई का विकास जरूरी है, लेकिन यह समाज पर गलत असर न डाले, यह भी उतना ही जरूरी है।
अभी अंतिम नहीं हैं नियम
फिलहाल ये नियम ड्राफ्ट के रूप में जारी किए गए हैं और आम जनता, विशेषज्ञों और कंपनियों से सुझाव मांगे गए हैं। सभी सुझावों पर विचार करने के बाद नियमों को अंतिम रूप दिया जाएगा।
