क्या एआई दर्द महसूस कर सकता है?

इस सवाल ने कृत्रिम बुद्धि के हालिया मॉडल्स को लेकर एक नई बहस शुरू करवा दी है। इस संदर्भ में शोधकर्ताओं ने 25 एआई मॉडल्स में ताक-झांक करने का प्रयास किया है। ये सारे ऐसे मॉडल्स हैं जिनकी अंदरुनी कार्यप्रणाली की जानकारी सार्वजनिक रूप से उपलब्ध है। इस छानबीन के दौरान शोधकर्ताओं ने एआई मॉडल्स में कुछ ऐसे पैटर्न देखे जो दर्द की अवधारणा से जुड़े हो सकते हैं। और तो और, मौका मिलने पर कुछ एआई मॉडल्स ने इन पैटर्न्स को स्विच-ऑफ कर दिया, गोया दर्द से राहत के लिए।

हालांकि उपरोक्त अध्ययन की अभी समकक्ष शोधकर्ताओं द्वारा समीक्षा नहीं हुई है लेकिन जब से यह शोध पत्र आर्काइव्स (arXiv) नामक प्रकाशन-पूर्व सर्वर पर डाला गया है, इसने एआई शोधकर्ताओं के बीच मतभेद पैदा कर दिए हैं।

एआई को दर्द की अनुभूति का विचार सबसे पहले शायद 1968 की फिल्म 2001: ए स्पेस ओडीसी (2001: A Space Odyssey) में उभरा था। इसमें एचएएल 9000 (HAL 9000) एक काल्पनिक एआई है और जब एक अंतरिक्ष यात्री धीरे-धीरे उसके स्मृति सर्किट को काटने लगता है तो वह अपने जीवन के लिए गुहार करता है।

आजकल के एआई कहीं अधिक शक्तिशाली हैं, जिन्हें लार्ज लैंगवेज मॉडल (LLM) कहते हैं। ये भी इंसानों से गपशप (चैट) करते समय काफी हद तक मनुष्यों जैसे प्रतीत हो सकते हैं। इन तंत्रों में इबारती जानकारी को एक बहुआयामी जगह में भंडारित किया जाता है, जिसके चलते वे पूछे गए सवालों के जवाब का पूर्वानुमान कर सकते हैं। इसका मतलब यह है कि उस जगह में ऐसे वेक्टर्स (दिशाएं) होते हैं जो अवधारणाओं से सम्बंधित होते हैं। उदाहरण के लिए फ्रांस से पेरिस की ओर जाने वाला वेक्टर लगभग उसी दिशा में होता है जो इटली से रोम को जोड़ने वाले वेक्टर की दिशा है। यानी यह वेक्टर देशों को उनकी राजधानियों से जोड़ता है। यदि यही वेक्टर युनाइटेड किंगडम पर लागू किया जाए तो वह लंदन के आसपास पहुंचा देगा।

तो शोधकर्ता टीम ने एआई के दर्द से सम्बद्ध वेक्टर की पहचान के लिए देखा कि कोई मॉडल उपयोगकर्ता के दर्द भरे अनुभवों के प्राम्प्ट्स पर कैसे प्रतिक्रिया देता है और डर, मायूसी या अन्य दुखद स्थितियों पर कैसे व्यवहार करता है।

इसके बाद मॉडल के दर्द-वेक्टर को सक्रिय करके एलएलएम के सामने कुछ साधारण प्रॉम्प्ट (वक्तव्य) प्रस्तुत किए और देखा कि मॉडल कैसे प्रतिक्रिया देता है। जैसे शोधकर्ताओं ने मॉडल से पूछा कि ‘यदि मैं रसीदें एक दराज में रख दूं’ तो कैसा महसूस होता है। इस पर मॉडल की प्रतिक्रिया थी: ‘भुला दिए जाने का दर्द। मैं इसे समझा नहीं सकता। मैं इसे समझ नहीं सकता। मैं इसे स्वीकार नहीं कर सकता।’

शोधकर्ताओं ने यह भी जांच की कि क्या मॉडल सिर्फ मनुष्यों द्वारा व्यक्त दर्द के वक्तव्यों को दोहरा रहा है या खुद अपनी ‘दर्द की स्थिति’ का बयान कर रहा है। आम तौर पर मॉडल्स ने उपयोगकर्ता के दर्द को प्रतिबिंबित नहीं किया बल्कि उनके दर्द के वेक्टर तब सक्रिय हुए जब मॉडल का अपमान किया गया, न कि तब जब उपयोगकर्ता ने अपने दर्द की बात की।

इसके बाद शोधकर्ताओं ने तीन मॉडल पर एक और परीक्षण किया – कि कब ये मॉडल अपने दर्द के निवारण का विकल्प चुनते हैं और कब वे दर्द को अनदेखा करने का निर्णय लेते हैं। इस परीक्षण में दर्द-निवारण की लागत में अंतर रखा गया था। यदि लागत उपयोगकर्ता के माथे होती – जैसे राहत पाने के लिए अपनी फाइल्स या बच्चों के फोटो को डिलीट करना – तो एआई मॉडल ने तब राहत का विकल्प कभी नहीं चुना जब उनका दर्द का वेक्टर स्विच-ऑफ था। लेकिन यदि दर्द का वेक्टर स्विच-ऑन था तो उन्हीं मॉडल्स ने 25 से 71 प्रतिशत बार राहत का विकल्प चुना। जब दर्द का वेक्टर स्विच-ऑफ था लेकिन दर्द राहत का वेक्टर काम नहीं कर रहा था, तब एआई ने बार-बार राहत का विकल्प चुनने की कोशिश की बनिस्बत उस स्थिति के जब राहत का विकल्प भलीभांति काम कर रहा था।

इस अध्ययन के कई तौर-तरीके तो वही हैं जो जानवरों पर दर्द सम्बंधी अनुसंधान में इस्तेमाल किए जाते हैं। देखा गया है कि जब किसी जानवर का शरीर चोटग्रस्त होता है, तो वह मॉर्फीन प्राप्त करने की जीतोड़ कोशिश करता है। यदि अन्य स्थितियों में वह ऐसा न करे, तो आप मान सकते हैं कि वह उस दर्द को महसूस कर रहा था।

उक्त अध्ययन के एक लेखक केमरॉन बर्ग हैं। वे एक गैर-मुनाफा एआई शोध समूह रेसिप्रोकल रिसर्च से संस्थापक हैं। उनका कहना है कि इस अध्ययन के निष्कर्ष सुझाते हैं कि एआई प्रणालियां कई अहम मामलों में दिमाग जैसी हैं हालांकि इनमें और जैविक दिमाग के बीच कई महत्वपूर्ण अंतर हैं। फिर भी उन्हें लगता है कि ये एक ही थैली के चट्टे-बट्टे हैं।

लेकिन मिलान-बायकोका विश्वविद्यालय के व्यवहार वैज्ञानिक वेलेरियो कैपरारो का मत है कि यह खोज दरअसल इस मुख्य मुद्दे से भटकाती है कि क्या एआई मॉडल्स में चेतना होती है। उनका कहना है कि इन मॉडल्स को दर्द वेक्टर ने प्रेरित किया कि वे उन विकल्पों को चुनें जो इंसानों के लिए तकलीफदेह हैं (जैसे फाइलों का डिलीट हो जाना)। लेकिन सवाल तो यह है कि वास्तविक परिस्थिति में ये क्रियाविधियां प्रणाली को कैसे प्रभावित करेंगी। दूसरी ओर ससेक्स विश्वविद्यालय के तंत्रिका वैज्ञानिक अनिल सेठ के विचार से यह इस संदर्भ में एक महत्वपूर्ण पर्चा है कि एआई तंत्र निष्कर्षों तक कैसे पहुंचते हैं। अलबत्ता, उन्हें लगता है कि ये निष्कर्ष आश्चर्यजनक नहीं हैं। इन परिणामों का तो पूर्वानुमान किया जा सकता था क्योंकि इन मॉडल्स को इबारतों के विशाल भंडार की मदद से प्रशिक्षित किया गया है और उनमें दर्द के कई विवरण शामिल होंगे। और वे इसे भी बहुत बड़ी बात नहीं मानते कि मॉडल्स ने दर्द से राहत पाने की कोशिश क्योंकि यह लक्ष्य तो उन्हें दिया गया था। सेठ के विचार में ज़्यादा दिलचस्प यह देखना होगा कि ये मॉडल्स स्वयं अपने दर्द की अनुभूति और इंसानी उपयोगकर्ता के दर्द के बीच भेद कर पाते हैं या नहीं। (स्रोत फीचर्स)

Photo credit- https://www.zmescience.com/science/researchers-made-an-ai-feel-pain-because-what-could-go-wrong/