काठमाण्डु – सन् १९८४ मा एउटा अंग्रेजी फिल्म आएको थियो– ‘द टर्मिनेटर’ ।

फिल्मको कथामा एउटा कम्प्युटर रक्षा प्रणाली आफैँ सचेत हुन्छ । उसलाई मानिस आफ्नो अस्तित्वका लागि खतरा हुन् भन्ने लाग्छ र उसले मानव जातिलाई समाप्त पार्ने प्रयास सुरु गर्छ । त्यसको परिणाम परमाणु युद्धका रूपमा देखापर्छ ।

त्यतिबेला यो केवल विज्ञान कथा थियो–एआई आफ्नै निर्माताविरुद्ध उभिने एउटा काल्पनिक कथा । तर करिब चार दशकपछि विश्वका केही प्रमुख एआई अनुसन्धानकर्ताले त्यही कल्पनाका केही पक्ष कुनै न कुनै रूपमा वास्तविकतामा परिणत हुन सक्ने चेतावनी दिइरहेका छन् ।

एन्थ्रोपिकका प्रमुख कार्यकारी अधिकृत डारियो अमोदेईले यही सन्दर्भमा ‘पेस द फ्रन्टियर’ अर्थात् एआईको विकासको गति केही सुस्त बनाउने अवधारणाबारे कुरा गरेका छन् । उनको तर्क एआईको विकास रोक्नुपर्छ भन्ने होइन, बरु यसको प्रगति यति तीव्र हुनुहुँदैन कि सुरक्षा उपाय र अनुसन्धान त्यसको गतिभन्दा पछाडि परून् भन्ने हो ।

यो चिन्ता अझ बढिरहेको छ, किनकि अहिले एआई प्रणाली प्रश्नको जवाफ दिनेमै सीमित छैनन् । तिनीहरू बिस्तारै आफैँ काम गर्न सक्ने दिशामा अघि बढिरहेका छन् । साइबर अपरेसनजस्ता क्षेत्रमा समेत एआईको प्रयोग हुन थालेको छ ।

एन्थ्रोपिकका अनुसार उसको क्लाउड एआई प्रणाली साइबर अपराध, ठगी, निगरानी तथा हतियारसँग सम्बन्धित काममा प्रयोग गरिएको पाइएको छ ।

कम्पनीका अनुसन्धानकर्ताहरूका अनुसार अहिले अझ सक्षम एआई प्रणालीलाई पहिलेको तुलनामा बढी स्वायत्तता, बढी पहुँच र लामो समयसम्म काम गर्ने क्षमता दिइँदैछ ।

एआईको सबैभन्दा ठूलो चिन्ता के हो ?

एआईको युगमा सबैभन्दा ठूलो प्रश्न सायद मेसिनहरू कहिल्यै मानिसभन्दा बढी बुद्धिमान बन्छन् कि बन्दैनन् भन्ने होइन ।

वास्तविक प्रश्न यो हो–यी प्रणालीहरू अझ शक्तिशाली हुँदै जाँदा मानिसले तिनको प्रयोग र नियन्त्रणमाथि आफ्नो अधिकार कायम राख्न सक्लान् ?

किनकि वास्तविक खतरा मेसिन शक्तिशाली हुनु मात्र नहुन सक्छ । बरु मानिस यति कमजोर बन्न सक्छन् कि उनीहरूसँग ‘होइन’ भन्ने विकल्प नै बाँकी नरहोस् ।

एआईलाई लिएर चिन्ता के हो?

ग्रोथ स्कुलका संस्थापक वैभव सिसिन्टीका अनुसार एआईको प्रयोग गर्दै जाँदा मानिसले सोच्ने क्षमता नै बिर्सिंदै जाने खतरा छ ।

उनी भन्छन्, ‘सुरुमा एआईको प्रयोग सर्च बक्सजस्तो हुन्थ्यो । तपाईंले कुनै प्रश्न सोध्नुहुन्थ्यो र त्यसको उत्तर पाउनुहुन्थ्यो ।

एआईको क्षमता बढ्दै जाँदा मानिसहरूले आफ्नो धेरैभन्दा धेरै काम त्यसलाई सुम्पिन थाले । आफूलाई गर्न रुचि नभएका वा दोहोरिने काम एआईबाट गराउनु उचित पनि हो ।’

‘आज कुनै प्रश्न उठ्यो भने मानिसहरू एआईलाई सोध्छन् र त्यसले दिएको उत्तर स्वीकार गर्छन् । उत्तर सही हो कि गलत, त्यसमा के तर्क छ र त्यसको परीक्षण कसरी गर्ने भन्नेबारे उनीहरू सोच्दैनन् । मेरा लागि सबैभन्दा चिन्ताजनक कुरा यही हो कि मानिसको स्वतन्त्र रूपमा सोच्ने क्षमता घट्दै गइरहेको छ’, उनी भन्छन् ।

सन् २०२० पछि आर्टिफिसियल इन्टेलिजेन्सको विकास असाधारण गतिमा भएको छ । सन् २०२० मा केही वर्षमै एआई क्षमता, आकार, दक्षता र प्रभावकारिताका हिसाबले यति अगाडि पुग्छ भन्ने कुरा निकै कम मानिसले कल्पना गरेका थिए । यही कारण एआईसँग जोडिएका जोखिमबारे चर्चा पनि बढेको छ ।

मुख्य चिन्ता एआईका क्षमताहरू अत्यन्त तीव्र गतिमा विकास हुनु हो । अहिले एआईले आफैँ कोड लेख्न, नयाँ एआई मोडल डिजाइन गर्न र विशेष समस्याका लागि समाधान विकास गर्न सक्छ । उसलाई जति धेरै डेटा उपलब्ध गराइन्छ, त्यति नै उसको क्षमता बढ्दै जान्छ ।

तर समस्या के हो भने हामी यी प्रणालीको आन्तरिक कार्यप्रणालीलाई त्यही गतिमा बुझ्न सकिरहेका छैनौँ । हामी निरन्तर तिनको उपयोगिता र परिणाममा ध्यान दिइरहेका छौँ । तर तिनको भित्र वास्तवमा के भइरहेको छ भन्ने बुझ्न त्यति सजिलो छैन । जबसम्म हामी यसलाई बुझ्दैनौँ, प्रभावकारी नियमन पनि कठिन हुनेछ ।

प्राध्यापक तन्मय चक्रवर्तीका विचारमा केही अवस्थामा एआईका केही विशेष क्षमतामा व्यापक नीतिगत सहमति नबनेसम्म रोक लगाउनुपर्ने हुन सक्छ ।

उनी भन्छन्, ‘आज यस्ता एआई मोडल विकसित भइरहेका छन्, जसले ठूलो परिमाणमा कोड परीक्षण गर्न, सुरक्षा कमजोरी पहिचान गर्न र दुरुपयोग हुन सक्ने समाधानसमेत सुझाउन सक्छन् ।’

खतरा कति वास्तविक बन्दैछ ?

ओपनएआईको एउटा उन्नत मोडललाई साइबर सुरक्षा परीक्षणमा सहभागी गराइएको थियो । यो परीक्षण ‘एक्सप्लोइट जिम’ नामक बेन्चमार्कमा आधारित थियो । यसको उद्देश्य साइबर सुरक्षाको क्षेत्रमा एआई कति सक्षम छ भनेर परीक्षण गर्नु थियो ।

मोडललाई सुरक्षित वातावरणमा राखिएको थियो, जहाँ उसको इन्टरनेट वा कुनै बाह्य प्रणालीमा पहुँच थिएन । उसलाई केवल समस्या समाधान गर्ने काम दिइएको थियो । तर उसले समस्या समाधान गर्न सकेन । उसले कुनै तरिकाले यस्तो बाटो वा कमजोरी पत्ता लगायो, जसबाट इन्टरनेटमा पहुँच प्राप्त गर्न सफल भयो। त्यसपछि उसले एउटा लोकप्रिय वेबसाइट ह्याक ग¥यो र त्यहाँ रहेको जानकारी प्रयोग गरेर समस्या समाधान ग¥यो ।

अहिले पनि एआई प्रणालीभित्र वास्तवमा के भइरहेको छ भन्ने पूर्ण रूपमा स्पष्ट छैन । गुगलले एएसआईका विषयमा अनुसन्धानपत्र पनि प्रकाशित गरेको छ । समग्रमा भन्नुपर्दा अहिले वास्तवमा के भइरहेको छ भन्ने कुरा कसैलाई पूर्ण रूपमा स्पष्ट छैन ।

ओपनएआई र एन्थ्रोपिकजस्ता ठूला एआई कम्पनीहरूले पनि एआईको नियमन र यसको विकासलाई सावधानीपूर्वक अघि बढाउनुपर्ने आवश्यकताको समर्थन गरेका छन् । तर केही आलोचकहरूको तर्क भने नयाँ नियम अत्यधिक कडा बनाइए त्यसबाट पहिले नै एआईको दौडमा अगाडि रहेका ठूला कम्पनीलाई नै बढी लाभ पुग्न सक्छ भन्ने छ ।

एआई विकास गरिरहेका ठूला कम्पनीहरूले नयाँ क्षमता विकासमा जति लगानी गर्छन्, सुरक्षाको परीक्षण र मूल्यांकनमा पनि त्यति नै लगानी गर्नुपर्छ । सबैभन्दा ठूलो चिन्ता एआई अझै पनि एक प्रकारको ‘ब्ल्याक बक्स’ हुनु हो । हामीलाई यो काम गर्छ भन्ने थाहा छ, तर यसले वास्तवमा कसरी काम गर्छ भन्ने पूर्ण रूपमा बुझ्न सकेका छैनौँ ।

रोजगारी, अवसर र भविष्यको तयारी

एआईसँग मानिसलाई अझ समृद्ध बनाउने क्षमता पनि छ । एआईबाट चार प्रकारका काम हुन्छन् । पहिलो, एआईले पूर्ण रूपमा गर्न सक्ने काम। यस्ता काम एआईलाई सुम्पिन सकिन्छ । दोस्रो, एआईले सहयोग गर्न सक्ने तर अन्तिम निर्णय मानिसले गर्नुपर्ने काम । यस्ता काममा निर्णय गर्ने क्षमता मानिसकै हातमा रहनुपर्छ ।

तेस्रो, एआईले गर्न नसक्ने काम, जस्तै मानिससँग सम्बन्ध निर्माण गर्ने, रणनीति तयार गर्ने तथा विभिन्न वास्तविक मानवीय कार्य ।र चौथो, एआई प्रणालीको व्यवस्थापन र निगरानीसँग सम्बन्धित नयाँ काम । यी चारै तहलाई बुझ्ने व्यक्ति नै भविष्यमा सबैभन्दा बढी मूल्यवान् साबित हुनेछ ।