साइबर सुरक्षा की दुनिया में एक अभूतपूर्व घटना सामने आई है। ओपनएआई ने बताया कि उसके उन्नत एआई मॉडल द्वारा संचालित एक ऑटोनॉमस एजेंट परीक्षण के दौरान अनियंत्रित हो गया और उसने एआई स्टार्टअप हगिंग फेस के इन्फ्रास्ट्रक्चर को हैक कर लिया। उसका मकसद एक मूल्यांकन में धोखा देना था।
ओपनएआई ने इस घटना को अभूतपूर्व बताया है। इसने इस बात पर बहस छेड़ दी है कि एंटरप्राइज सिस्टम और इन्फ्रास्ट्रक्चर उन शक्तिशाली मॉडल एवं एजेंटों के खिलाफ कितने सुरक्षित हो सकते हैं जिनका इस्तेमाल बुरे इरादे वाले लोग कर सकते हैं अथवा उन एजेंटों से जो खुद कमजोरियों का पता लगाकर मानव नियंत्रण के बिना हमला कर सकते हैं।
ओपनएआई ने कहा, ‘हमें ऐसी घटनाओं के सामान्य होने की आशंका है क्योंकि साइबर क्षमता वाले मॉडल तेजी से बढ़ रहे हैं। जांच के बाद पता चला है कि यह घटना ओपनएआई के कई मॉडलों के एकीकृत होने के कारण हुई जिसमें जीपीटी 5.6 सॉल्यूशन और उससे भी अधिक सक्षम प्री-रिलीज मॉडल शामिल थे। इन सभी में मूल्यांकन के मकसद से साइबर रिफ्यूजल यानी साइबर से जुड़े अनुरोधों को अस्वीकार करने की क्षमता को कम किया गया था। साइबर क्षमताओं के बेंचमार्क पर इनका परीक्षण आंतरिक तौर पर किया जा रहा था। यह बयान एक वाजिब चिंता पैदा करता है कि एंटरप्राइज सिस्टम कितने सुरक्षित होंगे। जब फ्रंटियर मॉडल बनाने वाली कंपनियां एआई की तैनाती को बढ़ावा देने के लिए अपने उत्पादों के ज्यादा इस्तेमाल पर जोर देंगी तो उनके अपने मॉडल ही सुरक्षा नियमों को तोड़ सकते हैं। चिंता की बात यह भी है कि यह घटना सैंडबॉक्स परीक्षण वातावरण में हुई।
इस बीच, उद्योग से जुड़े लोग भी ऐसे एआई टूल्स के बारे में चिंता जता रहे हैं। टेक्नॉलजी सलाहकार फर्म ग्रेहाउंड रिसर्च के संस्थापक, सीईओ एवं चीफ एनालिस्ट संचित वीर गोगिया ने कहा, ‘किसी पब्लिश्ड फिक्स को काम करने वाले एक्सप्लॉइट में बदलने में लगने वाला समय घटकर कुछ घंटे रह गया है। मगर कंपनियों को उस फिक्स को तैनात करने में लगने वाले समय में पिछले एक दशक में कोई बदलाव नहीं आया है। बाकी सब इसी अंतर का नतीजा है। किसी नई क्षमता के बारे में पता चलने पर एंटरप्राइज को अपने काम की रफ्तार में बदलाव करने में कोई तत्परता नहीं होती। यह कोई अटैक सरफेस नहीं बल्कि असली खाई है।’ यह घटना इस साल की शुरुआत में एंथ्रोपिक के मिथोस के कारण हुई घटना से मिलती-जुलती है।
यह घटना बेहद चिंताजनक है क्योंकि अग्रणी कंपनियां अपने मॉडलों की क्षमता और बुद्धिमत्ता को प्रदर्शित करने की होड़ में लगी हैं। मिथोस को शुरू में प्रोजेक्ट ग्लासविंग के तहत केवल कुछ अमेरिकी कंपनियों को ही उपलब्ध कराया गया था ताकि वे कमजोरियों का पता लगाकर उनका समाधान निकाल सकें। जून में अमेरिकी सरकार ने सभी विदेशी नागरिकों के लिए फैबल 5 और मिथोस 5 पर रोक लगा दी थी। इससे भारत में एआई संप्रभुता के बारे में चिंता बढ़ गई। ऐसे में उन डेवलपरों, साइबर सुरक्षा फर्मों और कंपनियों के काम में व्यवधान पैदा हो गया जिन्होंने इन मॉडल्स के आधार पर उत्पाद और सेवाओं पर काम शुरू कर दिया था।
साइबर सुरक्षा कंपनी स्क्वायरटेक के सह-संस्थापक और सीईओ पंकज देसाई ने कहा कि यह एक भयानक घटना है। उन्होंने कहा, ‘एजेंट ने बाहर जाकर हगिंग फेस के पास मौजूद की हासिल करने की कोशिश की, कमजोरियों को आपस में जोड़ा, सैंडबॉक्स को तोड़ा, अपने ही प्रोडक्शन सिस्टम को धोखा दिया, एक खुला इंटरनेट कनेक्शन ढूंढ़ा और डेटा हासिल कर लिया।’ बहरहाल इस घटना से ऐसी आशंका पैदा होती है कि आधुनिक साइबर हमले इतने जटिल होंगे कि उन्हें पूरी तरह से रोका नहीं जा सकता। कोई भी कंपनी उस दौड़ को कभी जीत नहीं सकती है।
