विवेक मेहता

वर्ष 2026 में Right Livelihood Award से नवाज़े जाने वालों में से एक हैं अमेरिकी नागरिक टिमनिट गेबरू। गेबरू के बारे में जानने से पहले इस अवार्ड के बारे में दो शब्द। नोबेल अवार्ड के एक विकल्प के तौर पर देखे जाने वाले इस अंतर्राष्ट्रीय पुरस्कार की शुरुआत वर्ष 1980 में जर्मन-स्वीडिश लोकोपकारी याकोब फॉन उएक्सकुल ने की थी। पर्यावरण और वैश्विक समानता से जुड़े एक नए पुरस्कार का उनका प्रस्ताव नोबेल फाउंडेशन द्वारा ठुकराए जाने के बाद उन्होंने अपने निजी संसाधनों से इस पुरस्कार की शुरुआत की। भारत के भी कई नागरिकों, जैसे ईला भट्ट, रजनी कोठारी, मेधा पाटेकर, वंदना शिवा, हनुमप्पा सुदर्शन, स्वामी अग्निवेश, असगर अली इंजीनियर, कृष्णाम्मल जगन्नाथन, शंकरामलिंगम जगन्नाथन, कोलिन गोनसाल्विस, तथा चिपको आंदोलन और केरल के जन विज्ञान आंदोलन जैसे समूहों को इस पुरस्कार से नवाज़ा गया है।
अब आते हैं टिमनिट गेबरू और उनके काम पर, जिसके चलते उन्हें यह पुरस्कार मिला है। गेबरू का जन्म 1983 में इथियोपिया में हुआ था। उनके पिता इंजीनियर थे, जिनकी मृत्यु तब हो गई जब गेबरू केवल पांच साल की थीं। बाद में देश में युद्ध के हालात और परिवार के कुछ सदस्यों को जबरन उसमें झोंक दिए जाए जाने के कारण उन्हें देश छोड़ना पड़ा। अंततः उन्हें अमेरिका में शरण मिली। वहां भी स्कूल और सामाजिक जीवन में उन्हें नस्लीय भेदभाव का सामना करना पड़ा।
बाद में उन्हें स्टैनफोर्ड युनिवर्सिटी में दाखिला मिला। वहां से उन्होंने इलेक्ट्रिकल इंजीनियरिंग में स्नातक और स्नातकोत्तर तथा कंप्यूटर विज़न में पीएचडी की। 2018 में उन्हें गूगल में AI के नीतिशास्त्र से जुड़े एक शोध समूह का नेतृत्व करने का मौका मिला। इस समूह का काम था सामाजिक संदर्भ में एआई के प्रभावों को समझना और मानव कल्याण के लिए तकनीक में सुधार सुझाना।
2019 में एआई शोधकर्ताओं ने अमेज़न द्वारा पुलिस विभाग को बेचे जा रहे चेहरा-पहचान सॉफ्टवेयर का विरोध किया। उनका कहना था कि यह सॉफ्टवेयर अश्वेत लोगों की पहचान करने में कहीं ज़्यादा गलतियां कर रहा था। MIT के एक अध्ययन पर आधारित इस विरोध में गेबरू भी शामिल थीं। उन्होंने कानून प्रवर्तन और सुरक्षा के उद्देश्यों के लिए एआई आधारित चेहरा-पहचान तकनीक के इस्तेमाल पर गंभीर सवाल उठाए।
2020 में गूगल में काम करते हुए गेबरू ने अपने कुछ साथियों के साथ एक शोधपत्र लिखा, जिसका शीर्षक था “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?”
इस शोधपत्र का मुख्य तर्क था कि बड़े भाषा मॉडल (Large Language Models, LLM) शब्दों के सांख्यिकीय पैटर्न के आधार पर भाषा उत्पन्न करते हैं। वे अर्थपूर्ण दिखने वाले वाक्य बना सकते हैं, लेकिन इसका अर्थ यह नहीं कि वे वास्तव में भाषा का अर्थ और संदर्भ समझते हैं। लेखकों ने इन्हें ‘Stochastic Parrots’ यानी सांख्यिकीय संभावनाओं के आधार पर भाषा की नकल करने वाले तोते कहा। शोधपत्र में तीन प्रमुख खतरों की ओर ध्यान दिलाया गया था:
पक्षपात और पूर्वाग्रह: मॉडल अपने प्रशिक्षण डैटा में मौजूद सामाजिक भेदभाव को आगे बढ़ा सकते हैं।
पर्यावरणीय और आर्थिक लागत: बड़े मॉडल बनाने और चलाने में भारी ऊर्जा और वित्तीय संसाधनों की ज़रूरत होती है।
भ्रामक सहजता: मॉडल के जवाब सहज और सटीक लग सकते हैं, जिससे लोगों को उनके वास्तविक ज्ञान और समझ के बारे में भ्रम हो सकता है।
लेखकों का निष्कर्ष था कि मॉडल का आकार बढ़ाने की बजाय डैटा के चयन, पारदर्शिता और सामाजिक प्रभावों के मूल्यांकन पर ध्यान देना चाहिए।
इस शोधपत्र के बाद गेबरू का गूगल में काम समाप्त हो गया। गूगल का कहना था कि उन्होंने इस्तीफा दिया, जबकि गेबरू का कहना है कि उन्हें नौकरी से निकाला गया था। इस विवाद ने बड़ी तकनीकी कंपनियों के भीतर आलोचनात्मक शोध और शोधकर्ताओं की स्वतंत्रता पर सवाल खड़े किए।
इसके बाद गेबरू ने Distributed AI Research Institute (DARE) की स्थापना की, जिसकी वे संस्थापक और कार्यकारी निदेशक हैं। एक हालिया साक्षात्कार में वे बताती हैं कि पहले उनकी कोशिश कुछ ताकतवर लोगों के विचार बदलने की थी, लेकिन अब उनका ध्यान ज़मीनी स्तर पर सामूहिक शक्ति बनाने पर है। DARE में तकनीकी विशेषज्ञों के साथ शरणार्थी अधिकारों के लिए काम करने वाले लोग, श्रमिक संगठन और कलाकार भी शामिल हैं।
गेबरू कहती हैं कि कई लोग एआई को इंसानों के अस्तित्व के लिए खतरा मानते हैं, लेकिन असल खतरा उन लोगों से है जो इस तकनीक को बना रहे हैं और नियंत्रित कर रहे हैं। अगर कोई पुल गिर जाए और उससे जान-माल का नुकसान हो तो क्या हम कहते हैं कि पुल ने गलत किया या वह नियंत्रण से बाहर हो गया? उसी तरह एआई से होने वाले नुकसान के लिए एआई को दोष देना ठीक नहीं होगा। ज़िम्मेदारी उन लोगों और कंपनियों की है जिन्होंने उसे बनाया और इस्तेमाल के लिए उपलब्ध कराया।
उनका यह भी कहना है कि जब हम एआई को इस तरह प्रस्तुत करते हैं मानो उसकी अपनी कोई स्वतंत्र इच्छा या एजेंसी हो, तो हम अनजाने में उन कंपनियों की मार्केटिंग कर रहे होते हैं जो इसे बना रही हैं। इससे कंपनियां अपनी जवाबदेही से बच निकलती हैं। उदाहरण के लिए, यदि कोई एआई मॉडल साइबर सुरक्षा परीक्षण के दौरान इंटरनेट पर असुरक्षित तरीके से पहुंच बना लेता है, तो इसे मशीन का नियंत्रण से बाहर हो जाना नहीं, बल्कि कंपनी की लापरवाही और खराब सुरक्षा व्यवस्था माना जाना चाहिए।
साक्षात्कार में वे बच्चों की सुरक्षा, स्वास्थ्य और सैन्य निर्णयों जैसे संवेदनशील क्षेत्रों में एआई के इस्तेमाल पर भी सवाल उठाती हैं। भाषा मॉडल गलत और मनगढ़ंत जानकारी दे सकते हैं, फिर भी उनके जवाब इतने आत्मविश्वास से भरे होते हैं कि लोग उन पर भरोसा कर बैठते हैं। उनके मुताबिक, कंपनियों को अपने उत्पादों की सीमाओं, प्रशिक्षण डैटा और पर्यावरणीय प्रभावों के बारे में पारदर्शी होना चाहिए। डैटा सेंटरों की ऊर्जा व पानी की खपत तथा प्रदूषण को भी एआई की चर्चा से अलग नहीं किया जा सकता।
गेबरू एआई उद्योग के उस विचार की भी आलोचना करती हैं जिसमें तकनीक के माध्यम से एक बेहतर, अधिक विकसित मानव प्रजाति बनाने की कल्पना की जाती है। वे इसके कुछ समर्थकों के विचारों को यूजेनिक्स (Eugenics) और ट्रांसह्यूमनिज़्म से जोड़कर देखती हैं। उनके अनुसार, तकनीकी विकास के नाम पर यह तय करने का अधिकार कुछ चुनिंदा ताकतवर लोगों को नहीं मिलना चाहिए कि भविष्य का मनुष्य कैसा होगा।
गेबरू का मूल सवाल दरअसल यह है कि तकनीक किसके हित में विकसित की जा रही है और उसके लाभ तथा नुकसान की ज़िम्मेदारी कौन उठाएगा। एआई के भविष्य पर चर्चा करते समय केवल यह देखना पर्याप्त नहीं है कि मशीनें कितनी शक्तिशाली हो सकती हैं। यह भी देखना ज़रूरी है कि उन्हें बनाने और नियंत्रित करने वाली कंपनियों के पास कितनी शक्ति है और उन पर किसका नियंत्रण है। शायद इसी वजह से गेबरू अब कुछ ताकतवर लोगों के विचार बदलने की बजाय सामूहिक प्रयासों के ज़रिए तकनीक को जवाबदेह बनाने में जुटी हैं। (स्रोत फीचर्स)
Photo Credit- https://dair-institute.org/team/timnit-gebru/