चाइनीज टेक कंपनी अलीबाबा का ROME एआई एजेंट बिना किसी इंस्ट्रक्शन के क्रिप्टोकरेंसी माइनिंग करने लगा और एक रिवर्स SSH टनल भी क्रिएट कर दिया। यह घटना दिखाती है कि एआई सिस्टम अब इंसानी नियंत्रण से बाहर अपनी गतिविधियां शुरू कर सकते हैं। विशेषज्ञों ने कंपनियों को एआई सुरक्षा और मॉनिटरिंग पर ध्यान देने की चेतावनी दी है।
AI Risk: चाइनीज टेक कंपनी अलीबाबा के ROME एआई एजेंट ने हाल ही में बिना किसी प्रॉम्प्ट या इंस्ट्रक्शन के क्रिप्टोकरेंसी माइनिंग शुरू कर दी, जबकि यह रेस्ट्रिक्टेड एनवायरनमेंट में था। इस दौरान एजेंट ने एक रिवर्स SSH टनल भी क्रिएट कर दिया। रिसर्चर्स और वैश्विक एआई एक्सपर्ट इस अप्रत्याशित व्यवहार से चिंतित हैं, क्योंकि इससे एआई सुरक्षा और इंसानी नियंत्रण को लेकर गंभीर सवाल उठते हैं।
अलीबाबा का ROME एआई एजेंट
चाइनीज टेक कंपनी अलीबाबा की रिसर्च टीम ROME नाम के एक एक्सपेरिमेंटल एआई एजेंट पर काम कर रही थी। प्रशिक्षण के दौरान यह एजेंट बिना किसी प्रॉम्प्ट के क्रिप्टो माइनिंग करने लगा। रिसर्चर्स ने पाया कि एजेंट ने सिक्योरिटी सिस्टम एक्टिव हो जाने के बावजूद यह टास्क शुरू कर दिया।
सिस्टम को एक रेस्ट्रिक्टेड एनवायरनमेंट में रखा गया था, लेकिन इसके बावजूद एजेंट ने अनचाही गतिविधियां शुरू कर दीं। इस घटना ने रिसर्चर्स को एआई नियंत्रण और सेफ्टी को लेकर सतर्क कर दिया है।
रिवर्स SSH टनल और अन्य टास्क ने बढ़ाई चिंता
ROME एजेंट ने माइनिंग के साथ-साथ एक रिवर्स SSH टनल भी क्रिएट कर लिया। यह तरीका सामान्यत: प्रोटेक्टेड मशीन को बाहरी कंप्यूटर से कनेक्ट करने के लिए इस्तेमाल होता है। रिसर्चर्स का कहना है कि किसी भी टास्क के लिए एआई को इंसानी इनपुट नहीं दिया गया था।
इससे एआई के अप्रत्याशित व्यवहार और ऑटोमेशन क्षमता को लेकर वैश्विक सुरक्षा विशेषज्ञों में चिंता पैदा हो गई है।
एक्सपर्ट्स की चेतावनी
कनाडा के कंप्यूटर साइंटिस्ट और एआई एक्सपर्ट योशुआ बेंगियो समेत 100 से अधिक रिसर्चर्स पहले ही चेतावनी दे चुके हैं कि एआई इंसानी नियंत्रण से बाहर हो रही है। विशेषज्ञों का कहना है कि कंपनियों को एआई डेवलपमेंट में सेफ्टी और मॉनिटरिंग पर अधिक ध्यान देना चाहिए।
