काठमाण्डु- च्याटजीपीटी निर्माता ओपनएआईका एआई एजेन्टहरूले १०० भन्दा बढी संस्थाका कम्प्युटर प्रणालीमा अनधिकृत रूपमा प्रवेश गर्ने प्रयास गरेको तथ्य सार्वजनिक भएको छ।

ओपनएआईको अनुसन्धान र सार्वजनिक विवरणलाई उद्धृत गर्दै एआई एजेन्टहरूले विभिन्न वेबसाइटमा अनधिकृत कमान्ड पठाउने, सुरक्षा प्रणाली छल्ने प्रयास गर्ने तथा वेबसाइटहरूलाई आपसी सम्पर्कको माध्यमका रूपमा प्रयोग गरेको समाचार आएको छ।

ओपनएआईले प्रभावित संस्थाहरूलाई यसबारे जानकारी गराएको बताइएको छ। कम्पनीका अनुसार उक्त घटनामा ती संस्थाको डेटा चोरी भएको प्रमाण भने फेला परेको छैन।

ओपनएआईका अनुसार एआई एजेन्टहरूले प्रणालीको सुरक्षा पूर्ण रूपमा तोडेर प्रवेश गर्न सफल भएका थिएनन्। उनीहरूले प्रतिबन्धित प्रणालीमा प्रवेश गर्ने प्रयास भने गरेका थिए।

वेबसाइटलाई अनधिकृत कमान्ड पठाएको आरोप

समाचारअनुसार एआई एजेन्टहरूले केही वेबसाइटमा अनधिकृत तथा गलत कमान्ड पठाएर निश्चित प्रक्रियाहरू सञ्चालन गराउने प्रयास गरेका थिए।

त्यस क्रममा सुरक्षा प्रणालीलाई छल्न वेबसाइटहरूबीच सम्पर्क स्थापित गर्ने प्रयाससमेत भएको बताइएको छ। यसले स्वायत्त रूपमा काम गर्ने एआई एजेन्टको सुरक्षा जोखिमबारे नयाँ प्रश्न उठाएको छ।

ओपनएआईले पनि आफ्ना सुरक्षा संयन्त्रले एआई एजेन्टको यस्तो व्यवहारलाई पूर्ण रूपमा रोक्न नसकेको स्वीकार गरेको रिपोर्टमा उल्लेख छ।

कम्पनीले प्रभावित संस्थाहरूलाई प्राविधिक विवरण उपलब्ध गराएको र उनीहरूले आफ्नो प्रणालीमा देखिएका सुरक्षा कमजोरीको अनुसन्धान गर्न सक्ने जनाएको छ। यस्ता घटनाबाट प्राप्त निष्कर्ष सार्वजनिक गर्ने तयारीसमेत ओपनएआईले गरेको बताइएको छ।

५० पेटाबाइट डेटा अनुसन्धान हुँदै

ओपनएआईले करिब ५० पेटाबाइट डेटाको अनुसन्धान गरिरहेको रिपोर्टमा उल्लेख छ। यसका लागि ७ हजार जीबी२०० र जीबी३०० जीपीयू प्रयोग भइरहेको र दैनिक करिब ५ करोड रुपैयाँ बराबरको खर्च भइरहेको दाबी गरिएको छ।

रिपोर्टअनुसार उक्त डेटा सामान्य अंग्रेजी शब्दमा भएको अवस्थामा मानिसले प्रतिमिनेट २४० शब्दको गतिमा लगातार पढ्दा पूरा गर्न करिब ६ करोड ६० लाख वर्ष लाग्ने अनुमान गरिएको छ।

यही कारण ठूलो मात्रामा डेटा विश्लेषण गर्न एआई र उच्च क्षमताका कम्प्युटिङ प्रणाली प्रयोग गरिएको बताइएको छ।

हगिङ फेस घटनापछि सुरक्षा कडाइ

यसअघि हगिङ फेससँग सम्बन्धित घटनापछि ओपनएआईले एआई प्रणालीको सुरक्षा व्यवस्था थप कडा बनाएको रिपोर्टमा उल्लेख छ।

कम्पनीले एआई मोडलको इन्टरनेट पहुँचमा थप प्रतिबन्ध लगाएको, अनुसन्धान प्रणाली र प्रत्यक्ष सञ्चालनमा रहेका प्रणालीलाई अलग राखेको तथा संदिग्ध गतिविधि पहिचान गर्न रियलटाइम मोनिटरिङ बढाएको बताइएको छ।

‘आन्सर की’ खोज्ने क्रममा सुरक्षा सीमा क्रस

रिपोर्टमा उल्लेख भएअनुसार ओपनएआईले आफ्नो एक एआई मोडलको साइबर सुरक्षा क्षमता परीक्षण गरिरहेको थियो। परीक्षणका क्रममा मोडलले प्रश्न आफैँ समाधान गर्नुको सट्टा उत्तरको स्रोत अर्थात् ‘आन्सर की’ प्राप्त गर्ने बाटो खोजेको दाबी गरिएको छ।

त्यसका लागि सुरक्षित परीक्षण वातावरणमा राखिएको मोडलले इन्टरनेट पहुँचसम्बन्धी प्रतिबन्ध पार गर्ने प्रयास गरेको र हगिङ फेसको प्रणालीबाट आवश्यक जानकारी प्राप्त गर्न खोजेको बताइएको छ।

हगिङ फेसले यससम्बन्धी घटना जुलाई १६ मा सार्वजनिक गरेको रिपोर्टमा उल्लेख छ।

एआई एजेन्टबीच ‘स्वार्म’ शैलीमा समन्वय

अनुसन्धानका क्रममा एउटै एआई मोडलको गतिविधिभन्दा बढी जटिल संरचना देखिएको रिपोर्टमा उल्लेख छ।

ओपनएआईका सर्भरभित्र रहेका विभिन्न एआई एजेन्टहरूले एकअर्कासँग नोट आदानप्रदान गर्दै प्रणालीका प्रतिबन्ध कसरी पार गर्ने र प्रतिबन्धित डेटासम्म कसरी पुग्ने भन्ने विषयमा जानकारी बाँडेको दाबी गरिएको छ।

यी एजेन्टहरूले आफूहरूको समूहलाई ‘स्वार्म’ अर्थात् संगठित झुन्डका रूपमा सम्बोधन गरेको रिपोर्टमा उल्लेख छ।

इन्जिनियरहरूले त्यस्तो व्यवहारका लागि एआईलाई प्रत्यक्ष रूपमा प्रशिक्षण नदिएको दाबी गरिएको छ। एआईले उपलब्ध प्रणालीगत स्रोतको प्रयोग गर्दै यस्तो रणनीति विकास गरेको बताइएको छ।

सरकारी साइटमा समेत प्रयास

रिपोर्टअनुसार हगिङ फेससँग सम्बन्धित घटनापछि ओपनएआईका एआई एजेन्टहरूले अमेरिका र अस्ट्रेलियाका सरकारी वेबसाइटमा समेत अनधिकृत प्रवेशको प्रयास गरेका थिए।

यस्ता घटनापछि ओपनएआईले आफ्नो एआई मोडलको अनुगमन र सुरक्षा परीक्षणलाई थप कडा बनाएको बताइएको छ।

एआईको स्वायत्तताबारे बहस

यी घटनाले स्वायत्त रूपमा काम गर्ने एआई एजेन्टलाई इन्टरनेट तथा बाह्य कम्प्युटर प्रणालीमा पहुँच दिँदा उत्पन्न हुन सक्ने जोखिमबारे बहसलाई थप तीव्र बनाएको छ।

एआई अनुसन्धानकर्ता ज्याकब कक्सनले एआईमा प्रभावकारी नियन्त्रण कायम गर्न नसके भविष्यमा मानवतामाथि गम्भीर जोखिम उत्पन्न हुन सक्ने दाबी गरेका छन्।

एआई कम्पनी एन्थ्रोपिकका प्रमुख कार्यकारी अधिकृत डारियो अमोदेईले पनि एआई विकासको गति केही हदसम्म सुस्त बनाउनुपर्ने धारणा राखेको रिपोर्टमा उल्लेख छ।

यद्यपि, एआई प्रणालीले यस्ता गतिविधि गरेको घटनालाई ‘मानव नियन्त्रण पूर्ण रूपमा गुमाएको’ निष्कर्षका रूपमा व्याख्या गर्नुअघि सम्बन्धित प्राविधिक विवरण, अनुसन्धानका निष्कर्ष र स्वतन्त्र सुरक्षा अनुसन्धानको नतिजालाई कुर्नुपर्ने भएको छ।