आर्टिफिशियल इंटेलिजेंस (AI) के तेजी से बढ़ते इस्तेमाल के बीच दुनिया भर के वैज्ञानिकों ने एडवांस AI सिस्टम की सुरक्षा को लेकर चिंता जताई है. 34 देशों के करीब 400 वैज्ञानिकों ने एक खुला पत्र जारी कर ऐसे AI सिस्टम पर निगरानी रखने के लिए अंतरराष्ट्रीय संस्था बनाने की मांग की है, जिसे सुरक्षा मानकों को लागू करने का अधिकार हो. इस पत्र पर AI के जाने-माने शोधकर्ता Geoffrey Hinton और Yoshua Bengio समेत कुल 406 वैज्ञानिकों ने हस्ताक्षर किए हैं.
रॉयटर्स की रिपोर्ट के मुताबिक, ‘An Open Letter on AI and Cybersecurity from the Scientific Community’ नाम के इस पत्र में एडवांस AI सिस्टम के लिए सख्त सुरक्षा उपाय लागू करने की अपील की गई है. वैज्ञानिकों का कहना है कि खासतौर पर ऐसे AI मॉडल पर ध्यान देने की जरूरत है, जो साइबर सुरक्षा से जुड़े काम कर सकते हैं और जिनका गलत इस्तेमाल गंभीर नुकसान पहुंचा सकता है.
AI मॉडल को बाहरी नेटवर्क से अलग रखने की मांग
वैज्ञानिकों के मुताबिक, सिर्फ AI की सुरक्षा बेहतर बनाने से काम नहीं चलेगा. एडवांस AI मॉडल को शुरुआत में बाहरी नेटवर्क से अलग रखकर काम करने देना चाहिए, ताकि उनकी क्षमताओं और संभावित जोखिमों पर बेहतर तरीके से नजर रखी जा सके.
पत्र में सभी देशों के लिए एक जैसे सुरक्षा मानक तय करने और AI से जुड़ी गंभीर घटनाओं का सार्वजनिक रिकॉर्ड तैयार करने का प्रस्ताव भी दिया गया है. वैज्ञानिक चाहते हैं कि सरकारें हाई-अश्योरेंस कंटेनमेंट स्टैंडर्ड यानी ऐसे मजबूत सुरक्षा मानकों को अपनाने की दिशा में काम करें, जो एडवांस AI सिस्टम की गतिविधियों को सुरक्षित दायरे में रखने में मदद करें. उनका कहना है कि इन उपायों को लागू करने में देरी नहीं होनी चाहिए.
कंपनियों के स्वैच्छिक वादों को बताया नाकाफी
यह अपील ऐसे समय आई है, जब करीब एक महीने पहले Anthropic, OpenAI, Google, Meta, xAI और Nvidia ने व्हाइट हाउस के एक समझौते पर हस्ताक्षर किए थे. इसके तहत कंपनियों ने स्वैच्छिक रूप से AI सुरक्षा उपायों का पालन करने की प्रतिबद्धता जताई थी.
हालांकि, वैज्ञानिकों का मानना है कि केवल स्वैच्छिक वादे पर्याप्त नहीं हैं. उनका कहना है कि AI के विकास और इस्तेमाल के तरीकों में तुरंत बदलाव नहीं किए गए, तो सुरक्षा से जुड़ी ऐसी घटनाएं आगे भी होती रहेंगी.
AI सुरक्षा में खामियों ने बढ़ाई चिंता
एडवांस AI सिस्टम से जुड़ी हालिया सुरक्षा घटनाओं ने भी वैज्ञानिकों की चिंता बढ़ाई है. रिसर्चर्स के मुताबिक, इन घटनाओं से AI मॉडल की टेस्टिंग और उन्हें बाहरी सिस्टम से अलग रखने की मौजूदा व्यवस्था में कमजोरियां सामने आई हैं.
Hugging Face से जुड़े एक सुरक्षा उल्लंघन का हवाला देते हुए वैज्ञानिकों ने चेतावनी दी कि पर्याप्त सुरक्षा उपायों के बिना AI एजेंट इंसानी निर्देश के बिना भी खतरनाक कदम उठा सकते हैं. ऐसे में वैज्ञानिकों की मांग है कि सरकारें और AI कंपनियां मिलकर स्पष्ट, सख्त और अंतरराष्ट्रीय स्तर पर लागू होने वाले सुरक्षा नियम तैयार करें.