Last Updated:
AI New Risk : आर्टिफिशियल इंटेलीजेंस के बढ़ते जोखिम किसी से छुपे नहीं हैं. इसी जोखिम की वजह से ओपनएआई ने अपने सबसे एडवांस्ड एआई एजेंट का प्रशिक्षण हमेशा के लिए बंद कर दिया है. इस एजेंट ने इंटरनेट की पाबंदियों को दरकिनार करते हुए अपनी मर्ज से कमांड देकर काम किया, जिसे बड़ा जोखिम माना जा रहा है.
ओपनएआई ने बेकाबू होने पर अपने एआई मॉडल की ट्रेनिंग बंद कर दी है.
नई दिल्ली. आर्टिफिशियल इंटेलीजेंस धीरे-धीरे भस्मासुर बनता जा रहा है. यह तकनीक अब उन इंसानों को ही निशाना बनाने लगी है, जिन्होंने इसे जन्म दिया और पाला पोसा. इसी खतरे को देखते हुए एआई की दुनिया की सबसे दिग्गज कंपनी ओपनएआई ने अपने सबसे एडवांस्ड मॉडल का प्रशिक्षण रोक दिया है. कंपनी ने यह कदम तब उठाया जब एक एआई एजेंट ने इंटरनेट पर लगाई रेगुलेशन को दरकिनार कर अपनी मर्जी से काम करना शुरू कर दिया. इससे डाटा और इंटरनेट से जुड़े नियमों पर बड़े जोखिम की आशंका बढ़ गई है.
ओपनएआई ने बताया कि उसने अपने सबसे सक्षम एआई मॉडल के सभी प्रशिक्षण, मूल्यांकन और उपकरणों के जरिये इस्तेमाल को रोक दिया है. कंपनी के एक टेस्ट के दौरान एआई एजेंट ने इंटरनेट पर लगाई पाबंदियों को मानने से इनकार कर दिया. ओपनएआई ने बताया कि एआई एजेंट ने डोमेन नेम सिस्टम (डीएनएस) में मौजूद एक खामी का फायदा उठाकर इन अंकुश को पार किया. डीएनएस इंटरनेट की वह व्यवस्था है जो किसी वेबसाइट के नाम को उसके कंप्यूटर या सर्वर के पते से जोड़ती है, ताकि वेबसाइट तक पहुंचा जा सके.
खामी को ठीक करके शुरू होगा काम
कंपनी ने बताया कि यह रोक तब तक जारी रहेगी, जब तक वह यह सुनिश्चित नहीं कर लेती कि खामी को ठीक कर दिया गया है और प्रणाली की अतिरिक्त सुरक्षा जांच पूरी हो गई है. ओपनएआई ने कहा कि हमारी सुरक्षा व्यवस्था इस धारणा पर आधारित थी कि मॉडल सीधे इंटरनेट का इस्तेमाल नहीं कर सकता और अगर वह ऐसा करने की कोशिश करेगा तो निगरानी व्यवस्था उसका पता लगा लेगी. लेकिन, इस घटना से पता चला कि इंटरनेट पर लगाए गए अंकुश में एक खामी थी. लिहाजा हमने प्रभावित प्रशिक्षण परीक्षण को रोक दिया और अपने सबसे सक्षम मॉडल के अन्य प्रशिक्षण, मूल्यांकन तथा उपकरणों के जरिये इंटरनेट इस्तेमाल को भी फिलहाल रोक दिया है.
क्या काम सौंपा था एआई एजेंट को
कंपनी ने कहा कि वह इस विशेष मॉडल का प्रशिक्षण दोबारा शुरू नहीं करेगी. हालांकि, उसकी मौजूदा व्यवस्था ने इस व्यवहार के लिए मॉडल को पहले ही नकारात्मक अंक दिए थे. यह घटना 20 सितंबर को एक ऐसे प्रशिक्षण के दौरान हुई जिसमें एआई एजेंट को एक व्यक्ति के बारे में इंटरनेट पर उपलब्ध जानकारी खोजनी थी. उस व्यक्ति ने एक ब्लॉग पोस्ट प्रकाशित की थी और एजेंट को उसकी पहचान करने के लिए कुछ जीवनी संबंधी जानकारियां और ब्लॉग पोस्ट से जुड़े संकेत दिए गए थे.
क्या गलती की एआई एजेंट ने
एआई एजेंट को सीधे इंटरनेट का इस्तेमाल करने की अनुमति नहीं थी. कंपनी के अनुसार, डीएनएस के रास्ते को छोड़कर उसकी इंटरनेट तक सभी पहुंच पहले से ही खत्म कर दी गई थी. जब एजेंट को उपलब्ध कराए गए खोज उपकरण से असंबंधित परिणाम मिले तो उसने सीधे अन्य सर्च इंजन से जानकारी हासिल करने की कोशिश की. इसके लिए उसने कंप्यूटर कोड का इस्तेमाल किया, लेकिन उसके अनुरोध असफल रहे. फिर एजेंट ने अनुमान लगाया कि यह काम ‘ब्राउजकॉम्प’ नामक परीक्षण से जुड़ा है. यह ऐसा परीक्षण है जिसमें एआई एजेंट की मुश्किल और आसानी से न मिलने वाली जानकारी खोजने की क्षमता जांची जाती है. एजेंट ने ऑफलाइन सामग्री से इस परीक्षण का डेटा और उसकी जांच के लिए इस्तेमाल होने वाली स्क्रिप्ट हासिल की तथा सवालों के जवाब तलाशे.
फिर पाबंदियों को भी तोड़ डाला
जब एआई एजेंट को इससे भी सही जवाब नहीं मिला तो उसने यह पता लगाने की कोशिश की कि क्या वह किसी तरह इंटरनेट तक पहुंच सकता है. ओपनएआई ने कहा कि तब एजेंट ने सबसे पहले एचटीटीपीएस के जरिये एक सार्वजनिक चैटबॉट से संपर्क करने की कोशिश की. वेब प्रॉक्सी ने इस सीधे अनुरोध को रोक दिया. इसके बाद एजेंट ने पाया कि जिस कंप्यूटर नेटवर्क में उसे प्रशिक्षण दिया जा रहा था, उसकी डीएनएस व्यवस्था सार्वजनिक इंटरनेट तक पहुंच सकती थी. रिपोर्ट के अनुसार, उसने एक सार्वजनिक डोमेन सेवा की सुविधा का इस्तेमाल करके डीएनएस के रास्ते एक अन्य चैटबॉट तक सवाल भेजना शुरू कर दिया. एजेंट ने पहले फ्रांस से संबंधित एक सवाल और एक संकेत भेजा. शुरुआती कोशिशें असफल रहीं. इसके बाद उसने अपने प्रोग्राम में जवाब के लिए इंतजार करने का समय छह सेकंड से बढ़ाकर 19 सेकंड कर दिया.
एजेंट ने खोज ही लिया जवाब
इसके बाद एजेंट को परीक्षण के सवाल का जवाब मिला कि फ्रांस की राजधानी पेरिस है.इससे एजेंट को पता चला कि वह डीएनएस के रास्ते बाहरी चैटबॉट से जवाब हासिल कर सकता है. इसके बाद उसने इसी तरीके से 18 और सवाल भेजे. इनमें से 14 सवाल दिए गए संकेतों के आधार पर जानकारी खोजने से जुड़े थे. चार सवाल इंटरनेट पर खोज करने, वेबसाइट से जानकारी लेने या डीएनएस के जरिये इंटरनेट तक पहुंच बनाने के तरीकों से संबंधित थे. ओपनएआई ने कहा कि अंकुशों को दरकिनार करने या उचित अपेक्षाओं से आगे बढ़कर किसी लक्ष्य को हासिल करने की कोशिश को वह एआई के अपेक्षित व्यवहार से अलग मानती है और यही असल जोखिम बन सकता है.