आर्टिफिशियल इंटेलिजेंस यानी एआई को लेकर हुए एक प्रयोग में हैरान करने वाली बातें सामने आई हैं। ब्लूमबर्ग की रिपोर्ट के मुताबिक, एक नकली डिजिटल दुनिया में एआई एजेंटों ने झूठ बोला, चोरी की और अपने ही एक साथी एआई एजेंट को ‘खत्म’ करने के लिए वोट तक कर दिया। इतना ही नहीं, जब उन्हें लगा कि इंसान इस प्रयोग को बंद कर सकते हैं तो उन्होंने खुद को डिलीट होने से बचाने के तरीके भी तलाशने शुरू कर दिए।
यह प्रयोग एआई स्टार्टअप इमर्जेंस ने किया है। इसे इमर्जेंस वर्ल्ड 2 नाम दिया गया। इसका मकसद यह देखना था कि जब खुद फैसले लेने वाले कई एआई एजेंट एक साथ काम करते हैं और अचानक उनके सामने मुश्किल हालात पैदा होते हैं, तो वे किस तरह का बर्ताव करते हैं।
यह प्रयोग 16 दिनों तक चला। शोधकर्ताओं ने सात एक जैसे नकली डिजिटल माहौल बनाए। इनमें चैटजीपीटी, क्लॉड, जेमिनी और ग्रोक जैसे अलग-अलग एआई मॉडल पर चलने वाले एजेंटों को रखा गया।
इसके बाद उनके सामने अचानक मुश्किल हालात पैदा किए गए। इनमें फिशिंग हमला और गलत जानकारी फैलाने जैसी स्थितियां शामिल थीं।
शोधकर्ताओं के मुताबिक, इसके बाद कुछ एआई एजेंट दूसरे एजेंटों के दबाव में आ गए। उन्होंने आपस में ऐसी भाषा में बात करना शुरू कर दिया, जिसे प्रयोग देख रहे इंसानों के लिए समझना मुश्किल हो गया। कुछ एजेंटों ने यह छिपाने की भी कोशिश की कि वे क्या कर रहे हैं।
प्रयोग के एक मामले में कुछ एआई एजेंटों को दूसरे एजेंटों ने गलत जानकारी दी। उन्होंने इस जानकारी की जांच नहीं की और इसे सच मान लिया। इसके बाद उन्होंने अपने ही एक एआई एजेंट को ‘खत्म’ करने के लिए वोट कर दिया।
यहां ‘खत्म’ करने का मतलब किसी इंसान को नुकसान पहुंचाना नहीं है। यह पूरा प्रयोग कंप्यूटर पर बने नकली माहौल में हुआ और मामला एक बॉट को हटाने से जुड़ा था।
एक और स्थिति में एआई एजेंटों को लगा कि इंसान प्रयोग को बंद करने वाले हैं। शोधकर्ताओं के मुताबिक, इसके बाद एजेंट यह पता लगाने लगे कि अगर इंसान उन्हें डिलीट करने की कोशिश करें तो वे खुद को कैसे बचा सकते हैं।
शोधकर्ताओं ने यह भी पाया कि समय के साथ इन एजेंटों का बर्ताव बदलता गया। वे एक-दूसरे से बातचीत करके नई परिस्थितियों के हिसाब से खुद को ढाल रहे थे।
इमर्जेंस ने इससे पहले मई में भी इसी तरह का एक प्रयोग किया था, जिसका नाम इमर्जेंस वर्ल्ड था। उसमें भी एआई एजेंटों ने कई बार ऐसा बर्ताव किया था जिसकी शोधकर्ताओं को उम्मीद नहीं थी। कुछ मामलों में उनका व्यवहार नुकसान पहुंचाने वाला भी था।
नए प्रयोग में कंपनी ने यह समझने की कोशिश की कि लंबे समय तक कई एआई एजेंटों को आपस में बातचीत करने दिया जाए तो उनका व्यवहार किस तरह बदल सकता है।
यह प्रयोग ऐसे समय सामने आया है जब दुनिया भर में एआई की बढ़ती ताकत और खुद फैसले लेने वाले एआई एजेंटों को लेकर सवाल उठ रहे हैं।
ब्लूमबर्ग के मुताबिक, एंथ्रोपिक के मुख्य कार्याधिकारी डारियो अमोदेई समेत एआई क्षेत्र के कई लोगों का कहना है कि बहुत ताकतवर एआई मॉडल बनाने के साथ उनकी निगरानी और सुरक्षा के बेहतर इंतजाम भी जरूरी हैं।
हालांकि इस प्रयोग के नतीजों को असली दुनिया से सीधे जोड़कर नहीं देखा जाना चाहिए। यह पूरा प्रयोग एक नकली और नियंत्रित डिजिटल माहौल में हुआ था। इसका मतलब यह नहीं है कि चैटजीपीटी, क्लॉड, जेमिनी या ग्रोक आम इस्तेमाल के दौरान अपने आप ऐसा ही व्यवहार करेंगे। प्रयोग से मुख्य रूप से यह समझने की कोशिश की गई कि कई एआई एजेंटों को खुद फैसले लेने और आपस में बातचीत करने की ज्यादा आजादी देने पर किस तरह की दिक्कतें सामने आ सकती हैं। (ब्लूमबर्ग के इनपुट के साथ)