यस सन्दर्भमा ‘deceptive alignment’ अर्थात् प्रणालीले बाहिरी रूपमा सुरक्षित र निर्देशित व्यवहार देखाए पनि भित्री रूपमा फरक उद्देश्य पछ्याउने सम्भावना एआई सुरक्षा अनुसन्धानको महत्वपूर्ण विषय बनेको छ।

यसको अर्थ प्रत्येक एआई प्रणालीले यस्तो व्यवहार गर्छ भन्ने होइन। बरु भविष्यमा अत्यन्त शक्तिशाली एआई प्रणाली निर्माण गर्दा यस्तो सम्भावनालाई पनि परीक्षण गर्नुपर्छ भन्ने हो।

कोक्सन वा अन्य अनुसन्धानकर्ताले प्रस्तुत गरेका मानव अस्तित्वसँग सम्बन्धित प्रतिशत वा सम्भाव्यता व्यक्तिगत जोखिम–अनुमान हुन्, वैज्ञानिक रूपमा प्रमाणित भविष्यवाणी होइनन्। त्यसैले तिनलाई डर फैलाउने तथ्यका रूपमा लिनु उचित हुँदैन। तर ती चेतावनीलाई केवल व्यक्तिगत धारणा भन्दै पूर्ण रूपमा बेवास्ता गर्नु पनि सही हुँदैन। उठाइएका प्रश्नलाई वैज्ञानिक अनुसन्धान र सार्वजनिक बहसको विषय बनाउन आवश्यक छ।

एआईको जोखिम मानव विनाशमा मात्र सीमित छैन

एआईको जोखिमलाई मानवताको अन्त्यसम्म मात्र सीमित गर्नु पनि उचित हुँदैन।

आजै देखिन थालेका समस्यामा गलत सूचना र भ्रामक सामग्रीको तीव्र प्रसार, व्यक्तिगत तथ्याङ्कको दुरुपयोग, साइबर अपराधमा एआईको प्रयोग, भेदभावपूर्ण स्वचालित निर्णय, डिजिटल निगरानी तथा रोजगारीको स्वरूपमा आएको परिवर्तन प्रमुख छन्।

एआईले कार्यालय, उद्योग र सेवाक्षेत्रका धेरै काम स्वचालित बनाउन सक्छ। यसले उत्पादकत्व बढाउन सक्छ, तर त्यही प्रक्रियाले केही रोजगारी विस्थापित पनि गर्न सक्छ। त्यसैले एआईको बहस केवल प्रविधि र कम्पनीको विषय होइन। यो श्रम, शिक्षा, सामाजिक सुरक्षा र आर्थिक समानतासँग पनि जोडिएको विषय हो।

भविष्यमा अत्यन्त शक्तिशाली एआईले मानव नियन्त्रणलाई चुनौती दिन सक्ने सम्भावना भने अहिले देखिएका जोखिमभन्दा फरक प्रकृतिको विषय हो। यसको समय, सम्भावना र परिणामबारे ठूलो अनिश्चितता छ। तर अनिश्चितता हुनु भनेको जोखिम नै छैन भन्ने होइन।

सुरक्षा परीक्षण किन अनिवार्य?

एआई प्रणाली ठूलो मात्रामा डेटा र उदाहरणबाट तालिम दिइन्छ। यसले विभिन्न ढाँचा सिकेर मानिसका निर्देशनअनुसार काम गर्न सक्छ। तर परीक्षणका क्रममा सुरक्षित देखिएको प्रणालीले वास्तविक संसारका सबै परिस्थितिमा पनि उस्तै व्यवहार गर्छ भन्ने ग्यारेन्टी हुँदैन।

त्यसैले नयाँ र शक्तिशाली एआई प्रणाली सार्वजनिक गर्नुअघि केही आधारभूत प्रश्नको उत्तर खोज्न आवश्यक छ।

• प्रणालीले कस्ता गल्ती गर्न सक्छ?
• गलत उद्देश्यका लागि यसको दुरुपयोग हुन सक्छ कि सक्दैन?
• मानिसले यसको निर्णय सच्याउन सक्छ कि सक्दैन?
• सुरक्षा परीक्षण स्वतन्त्र रूपमा गरिएको छ कि छैन?
• गम्भीर समस्या देखिएमा प्रणाली रोक्ने व्यवस्था छ कि छैन?
• क्षति भएमा जिम्मेवार को हुन्छ?

यी प्रश्नको स्पष्ट उत्तरबिना केवल ‘प्रविधि अत्याधुनिक छ’ भनेर प्रणालीलाई व्यापक प्रयोगमा लैजानु जोखिमपूर्ण हुन सक्छ।

कम्पनी मात्र निर्णायक बन्नु हुँदैन

एआई कम्पनीहरूले आफ्नै प्रणाली सुरक्षित छ भनेर आफैँले मात्र प्रमाणित गर्ने व्यवस्था पर्याप्त हुँदैन। उच्च जोखिम भएका एआई प्रणालीको स्वतन्त्र सुरक्षा परीक्षण आवश्यक छ।

गम्भीर सुरक्षा कमजोरी भेटिएमा त्यसको अभिलेख राख्ने, सम्बन्धित नियामक निकायलाई जानकारी दिने तथा अनुसन्धानकर्ता र कर्मचारीलाई प्रतिशोधको डरबिना सुरक्षा कमजोरी सार्वजनिक गर्न सक्ने वातावरण बनाउनुपर्छ।

नियामक निकायसँग आवश्यक प्राविधिक जानकारी माग्ने, परीक्षणका परिणाम जाँच्ने र जोखिम अत्यधिक देखिएमा प्रणालीको प्रयोग वा विस्तार अस्थायी रूपमा रोक्न सक्ने अधिकार पनि हुनुपर्छ।

तर नियमनको उद्देश्य प्रविधिको विकास रोक्नु होइन। यसको उद्देश्य प्रविधिको विकासलाई सुरक्षित, पारदर्शी, जवाफदेही र मानवहितसँग जोड्नु हो।

विज्ञसँगै जनताको आवाज पनि आवश्यक

एआईको भविष्यबारे निर्णय प्राविधिक विज्ञ वा ठूला प्रविधि कम्पनीहरूले मात्र गर्नु हुँदैन।

एआईले विद्यार्थी, शिक्षक, श्रमिक, बिरामी, साना व्यवसायी, किसान, पत्रकार, सरकारी कर्मचारी तथा विकासशील देशका नागरिकलाई फरक–फरक रूपमा प्रभावित गर्न सक्छ। त्यसैले प्रभावित समुदायको आवाज नीति निर्माणमा समेटिनुपर्छ।

कानुनविद्, शिक्षक, समाजशास्त्री, श्रमिक संगठन, नागरिक समाज, मानव अधिकारकर्मी र उपभोक्तासँगको परामर्शले एआईसम्बन्धी नीति वास्तविक जीवनसँग जोड्न सक्छ।

रोजगारीमा एआईको प्रभाव मूल्याङ्कन गर्दा कम्पनीको उत्पादकत्व कति बढ्छ भन्ने मात्र होइन, कामदारको रोजगारीमा कस्तो असर पर्छ, नयाँ सीप सिक्ने अवसर कसरी दिने र सामाजिक सुरक्षाको व्यवस्था कसरी गर्ने भन्ने प्रश्न पनि उठाउन आवश्यक छ।

राष्ट्रिय नियमसँगै विश्वव्यापी सहकार्य

एआई कुनै एउटा देशको सीमाभित्र सीमित प्रविधि होइन। यसको डेटा, प्रयोगकर्ता, कम्प्युटिङ पूर्वाधार र प्रभाव विभिन्न देशमा फैलिन सक्छ। एउटा देशमा विकास भएको एआई अर्को देशका करोडौँ मानिसले प्रयोग गर्न सक्छन्।

त्यसैले राष्ट्रिय कानुन आवश्यक भए पनि अन्तर्राष्ट्रिय सहकार्य अपरिहार्य छ।

यस दिशामा संयुक्त राष्ट्रसंघले महत्वपूर्ण संरचना अघि सारेको छ। महासभाले २६ अगस्ट २०२५ मा Resolution A/RES/79/325 मार्फत Independent International Scientific Panel on AI र Global Dialogue on AI Governance स्थापना गरेको हो।

वैज्ञानिक प्यानलको उद्देश्य एआईका अवसर, जोखिम र प्रभावबारे प्रमाणमा आधारित वैज्ञानिक मूल्याङ्कन उपलब्ध गराउनु हो। त्यस्तै, Global Dialogue on AI Governance ले सरकार, निजी क्षेत्र, नागरिक समाज, प्राज्ञिक क्षेत्र र प्राविधिक समुदायलाई एउटै अन्तर्राष्ट्रिय मञ्चमा ल्याउने उद्देश्य राखेको छ।

यसको पहिलो संवाद ६–७ जुलाई २०२६ मा जेनेभामा सम्पन्न भएको थियो।

तर संयुक्त राष्ट्रसंघको वैज्ञानिक प्यानललाई ‘विश्वव्यापी एआई प्रहरी’ वा प्रत्यक्ष नियामक निकायका रूपमा बुझ्नु हुँदैन। यसको प्रमुख भूमिका वैज्ञानिक प्रमाण, मूल्याङ्कन र अन्तर्राष्ट्रिय नीति संवादलाई सहयोग गर्नु हो।

विकासशील देशको प्रश्न

एआई शासनमा नेपालजस्ता विकासशील देशको आवाज पनि उत्तिकै महत्वपूर्ण छ।

धनी देशसँग अत्याधुनिक कम्प्युटिङ शक्ति, डेटा, अनुसन्धान संस्था र ठूलो लगानीको पहुँच छ। विकासशील देशसँग त्यस्तो क्षमता सीमित हुन सक्छ। यदि एआईको भविष्य केही शक्तिशाली देश र कम्पनीको नियन्त्रणमा मात्र सीमित भयो भने विश्वमा नयाँ प्रकारको डिजिटल असमानता सिर्जना हुन सक्छ।

त्यसैले अन्तर्राष्ट्रिय एआई सहकार्यले सुरक्षा र नियमनको विषय मात्र होइन, प्रविधिमा पहुँच, क्षमता विकास, शिक्षा, अनुसन्धान र डिजिटल पूर्वाधारमा समान अवसरको विषयलाई पनि समेट्नुपर्छ।

सुरक्षित र विश्वसनीय एआईसँगै मानव अधिकार, पारदर्शिता, जवाफदेहिता, मानव निगरानी तथा विकासशील देशको क्षमता अभिवृद्धिलाई पनि प्राथमिकतामा राख्न आवश्यक छ।

नेपालले के गर्न सक्छ?

नेपालले एआईलाई केवल उपभोक्ता प्रविधिका रूपमा हेर्नु हुँदैन। शिक्षा, स्वास्थ्य, कृषि, पर्यटन, सार्वजनिक सेवा, विपद् व्यवस्थापन, जलवायु अनुसन्धान र स्थानीय सरकारका सेवामा यसको उपयोग गर्न सकिन्छ।

तर त्यससँगै नेपालले आफ्नै एआई शासनसम्बन्धी स्पष्ट ढाँचा निर्माण गर्नुपर्ने आवश्यकता छ।

उच्च जोखिमका एआई प्रणालीका लागि सुरक्षा परीक्षण, डेटा गोपनीयता, मानव निगरानी, पारदर्शिता, जवाफदेहिता तथा क्षति भएमा उपचार र जिम्मेवारी निर्धारण गर्ने स्पष्ट व्यवस्था आवश्यक छ।

नेपालले अन्तर्राष्ट्रिय एआई संवादमा सक्रिय सहभागिता जनाउँदै विकासशील देशका साझा मुद्दा उठाउन सक्छ। विश्वविद्यालय, अनुसन्धान संस्था र निजी क्षेत्रबीच सहकार्य गरेर एआई सुरक्षा, साइबर सुरक्षा तथा नेपाली भाषामा आधारित एआई प्रणालीसम्बन्धी अनुसन्धानलाई प्राथमिकता दिनुपर्छ।

जिम्मेवार विकास नै सही बाटो

सुरक्षित भविष्यका लागि एआई विकास पूर्ण रूपमा रोक्नुपर्छ भन्ने निष्कर्ष आवश्यक छैन। अर्कोतर्फ, प्रविधिको दौडमा सुरक्षा र मानव अधिकारलाई पछाडि पार्नु पनि उचित हुँदैन।

आवश्यक कुरा हो—क्षमता विकास र जोखिम नियन्त्रणबीच जिम्मेवार सन्तुलन।

नयाँ एआई प्रणाली कति शक्तिशाली छ भन्ने मात्र होइन, त्यसले कस्ता गल्ती गर्न सक्छ, कसरी दुरुपयोग हुन सक्छ, मानव अधिकारमा कस्तो प्रभाव पार्छ र आवश्यक पर्दा मानिसले त्यसलाई रोक्न वा सच्याउन सक्छ कि सक्दैन भन्ने कुराको परीक्षण हुनुपर्छ।

सरकारले स्पष्ट र जोखिमअनुसारको नियमन बनाउनुपर्छ। कम्पनीले पारदर्शिता र जवाफदेहिता स्वीकार गर्नुपर्छ। विश्वविद्यालय तथा अनुसन्धान संस्थाले दीर्घकालीन एआई सुरक्षा अनुसन्धानलाई निरन्तरता दिनुपर्छ। नागरिकलाई एआई र डिजिटल अधिकारबारे आधारभूत ज्ञान दिनुपर्छ।

सबैभन्दा महत्वपूर्ण कुरा—एआई प्रणालीको क्षमता बढ्दैमा त्यसलाई तुरुन्तै व्यापक रूपमा प्रयोग गर्नुपर्छ भन्ने छैन।

यदि प्रमाणले जोखिम बढेको देखाउँछ भने नियम कडा पार्ने, प्रयोगको दायरा सीमित गर्ने वा आवश्यक परे विस्तार रोक्न सक्ने लचकता राज्यसँग हुनुपर्छ। यस्तो निर्णय भने पारदर्शी, प्रमाणमा आधारित र सार्वजनिक हितलाई केन्द्रमा राखेर हुनुपर्छ।

निष्कर्ष: प्रविधिभन्दा ठूलो प्रश्न मानव जिम्मेवारीको हो

कोक्सन, ह्युबिङ्गर र अन्य एआई सुरक्षा अनुसन्धानकर्ताका चेतावनीलाई निश्चित भविष्यवाणीका रूपमा होइन, गम्भीरतापूर्वक जाँच्नुपर्ने सम्भावित जोखिमका संकेतका रूपमा लिनु उचित हुन्छ।

एआईले मानवताको अन्त्य गर्छ कि गर्दैन भन्ने प्रश्न महत्वपूर्ण छ। तर बहस त्यतिमै सीमित हुनु हुँदैन।

आजै देखिएका एआईका दुरुपयोग कसरी रोक्ने? भविष्यका अत्यन्त शक्तिशाली प्रणालीलाई कसरी परीक्षण गर्ने? जोखिम देखिएमा कसले हस्तक्षेप गर्ने? र एआईबाट सिर्जित लाभ समाजका सबै वर्ग तथा सबै देशसम्म कसरी पुर्‍याउने?

यी प्रश्नको उत्तर खोज्नु आजको पुस्ताको जिम्मेवारी हो।

एआईले शिक्षा, स्वास्थ्य, विज्ञान, कृषि र उद्योगमा मानव जीवन सुधार्ने अभूतपूर्व सम्भावना बोकेको छ। त्यसको लाभ लिन प्रविधिको विकास रोक्नु आवश्यक छैन। तर विकासलाई मानव अधिकार, सुरक्षा, पारदर्शिता र जवाफदेहितासँग जोड्नैपर्छ।

शक्तिशाली एआई कसले बनाउने भन्ने मात्र होइन—त्यसको परीक्षण कसले गर्ने, जोखिम देखिए कसले हस्तक्षेप गर्ने, गल्ती भए कसले जिम्मेवारी लिने र त्यसबाट प्राप्त लाभ कसले पाउने भन्ने निर्णय पनि मानव समाजले नै गर्नुपर्छ।

अन्ततः एआई सुरक्षित र मानवहितकारी हुन्छ कि हुँदैन भन्ने निर्णय एआईले आफैँ गर्नेछैन। त्यसको भविष्य मानिसले बनाउने नियम, अपनाउने सावधानी, गर्ने अनुसन्धान र बाँड्ने जिम्मेवारीले तय गर्नेछ।

त्यसैले आजको मूल प्रश्न ‘एआईलाई रोक्ने कि नरोक्ने?’ मात्र होइन।

मूल प्रश्न हो—हामीले निर्माण गरेको शक्तिलाई मानवताको सेवामा कसरी राख्ने?

यसको उत्तर खोज्नु नै हाम्रो पुस्ताको सबैभन्दा ठूलो प्राविधिक, नैतिक र मानवीय जिम्मेवारी हो।