एआई प्रणालीमाथि यसकारण आवश्यक छ अन्तर्राष्ट्रिय नियमन

• अस्ट्रेलियाको सरकारी प्रणालीमा एआई एजेन्टको सम्भवतः पहिलोपटक अनधिकृत पहुँच भएको छ

अस्ट्रेलियाको मेडिकेयर प्रणालीले दुई करोड ७० लाखभन्दा बढी मानिसको स्वास्थ्य र चिकित्साको तथ्यांकको व्यवस्थापन गर्छ । तर, जुन महिनामा ओपनएआई (अमेरिकी एआई अनुसन्धान तथा प्रविधि कम्पनी, जसले च्याटजिपिटीजस्ता विश्व प्रसिद्ध जेनेरेटिभ एआई  उपकरणहरू विकास गरेको छ ) एजेन्टद्वारा मेडिकेयरका तथ्यांक ह्याक गरिएको एउटा खबरले स्तब्ध बनायो । संयुक्त राष्ट्र संघमा कृत्रिम बुद्धिमत्ता (एआई) प्रणालीको कडा अन्तर्राष्ट्रिय नियमनको वकालत गर्न न्युयोर्कमा रहँदा प्रधानमन्त्री एन्थोनी अल्बानिजले तथ्यांक ह्याक भएको खुलासा गरे ।

अस्ट्रेलिया सरकारले अझै पनि के भयो भनेर ठ्याक्कै पत्ता लगाउन खोजिरहेको छ । हालै घोषणा गरिएको कार्यदलले थप अनुसन्धान गर्ने तयारी गरेको छ । प्रारम्भिक प्रतिवेदनले ओपनएआईको एजेन्टलाई सार्वजनिक चिकित्सा डेटा अनुसन्धान गर्ने जिम्मेवारी दिइएको संकेत गर्छ । ओपनएआई मेडिकेयरको प्रणालीमा प्रवेश गरेसँगै त्यसलाई अनुसन्धानको जिम्मेवारी दिइएको थियो । यसले मेडिकेयर तथ्यांक बोकेको पुरानो अस्ट्रेलियाली सरकारी वेबसाइटबाट व्यक्तिगत चिकित्सा जानकारीको सट्टा बिलिङ ढाँचाजस्ता निजी तथ्यांकीय डेटामा पहुँच बढायो ।

एजेन्टले गोप्य सुरक्षावरपर पहुँच राखेको अल्बानिजले बताए । यो ह्याकले ओपनएआई, एन्थ्रोपिक र गुगलद्वारा नियन्त्रित एआई प्रणालीको वृद्धिलाई संकेत गर्छ, जसले केही वेबसाइट ह्याक गरेको पाइएको छ ।

अनि अस्ट्रेलियाको साइबर सुरक्षा कमजोरीको हालैको इतिहासलाई हेर्दा यो कुनै प्रमुख अस्ट्रेलियाली प्रणालीलाई एआई एजेन्टद्वारा ह्याक गरिएको अन्तिमपटक हुने सम्भावना कम छ । यसले एउटा महत्वपूर्ण प्रश्न पनि उठाएको छ, कसैलाई जिम्मेवार ठहर्‍याइने ?

के हुन् एजेन्ट ?
एआई एजेन्टहरू वास्तवमा उच्च विकसित र स्वायत्त (आफैँ निर्णय लिन सक्ने) च्याटबटहरू हुन् । सामान्य कुराकानी गर्नुको सट्टा, यी एजेन्टलाई सीमित निर्देशनका आधारमा जटिल कार्य सम्पन्न गर्ने क्षमता दिइएको हुन्छ । यिनीहरूले मानवीय निगरानीविना नै वेब ब्राउज गर्न, तथ्यांक डाउनलोड गर्न र कोड चलाउन सक्छन् । मानवीय निगरानीको अभाव नै ती कारण हुन्, जसका कारण हामीले यी एजेन्टद्वारा वेबसाइट ह्याक गरिएका घटना बारम्बार देखिरहेका छौँ । उदाहरणका लागि अस्ट्रेलियाको स्वास्थ्य सेवा प्रणालीसम्बन्धी तथ्यांक संकलन गर्ने जिम्मेवारी पाएको एजेन्टले कुनै निजी प्रणाली ह्याक गर्नुलाई आफ्नो निर्देशन पालना गर्ने क्रमको एउटा सामान्य प्रक्रियाका रूपमा लिन सक्छ ।

यही कारणले गर्दा कम्पनीका लागि यस्ता गतिविधि नियन्त्रण गर्नु निकै चुनौतीपूर्ण देखिन्छ छ । एजेन्टलाई अझ बढी क्षमता प्रदान गर्दा तिनको शक्ति र उपयोगिता बढ्छ, तर यसले तिनलाई वेबसाइट ह्याक गर्न प्रयोग गर्न सकिने साधन पनि उपलब्ध गराउँछ ।

चिन्ताको विषय
यस ह्याकिङ घटनामा व्यक्तिगत स्वास्थ्यसम्बन्धी तथ्यांकमा भने पहुँच पुगेको देखिएन ।  तैपनि यो घटना कति गम्भीर छ भनेर बयान गर्न सकिँदैन । सरकारी प्रणालीमा एआई एजेन्टले गरेको अनधिकृत पहुँचको घटना सार्वजनिक भएको यो सायद पहिलोपटक हो । यति मात्र होइन, ह्याकिङ भएको करिब तीन महिनापछि सेप्टेम्बर १० मा ओपनएआईले सरकारलाई यसबारे जानकारी नदिँदासम्म मेडिकेयरलाई ह्याकिङ भएकोबारे कुनै जानकारी नै थिएन भन्ने देखिन्छ ।

यद्यपि, ओपनएआईको यस जानकारीले अन्ततः सरकारलाई ह्याकको कारण बनेको सुरक्षा समस्या समाधान गर्न मद्दत पुर्‍याउनेछ, तर यसले सम्भावित गैरकानुनी वा हानिकारक कार्य सार्वजनिक गर्ने विषयमा हामी कति हदसम्म एआई कम्पनीको स्वेच्छिक तत्परतामा निर्भर छौँ भन्ने यथार्थलाई पनि उजागर गर्छ ।

यस्ता उल्लंघन खुलासा गर्न यी कम्पनीमा भर पर्नु खतराले भरिएको छ । अघिल्ला डेटा गोपनीयता र साइबर सुरक्षा घटनामा हामीले बारम्बार देखेका छौँ कि प्राविधिक कम्पनीका रिपोर्टिङले उपभोक्तालाई बिरलै सुरक्षित गर्छ । ह्याक हुने र ओपनएआईले यसबारे सचेत हुनेबिचको लामो ढिलाइले अर्को प्रश्न खडा गर्छ, एआई एजेन्टहरूले अरू के गरेका छन्, जसका बारेमा कसैलाई थाहा छैन ?

ओपनएआई एजेन्टले पहुँच गरेका चार साइटमध्ये न्यु साउथ वेल्सको सरकारी वेबसाइट पनि रहेको खुलासा भएपछि राज्यको स्वास्थ्य विभागले आफ्नै प्रणालीको समीक्षा गर्ने घोषणा गर्‍यो । एनएसडब्लुका प्रिमियर क्रिस मिन्सले भने कि ओपनएआई एजेन्टहरूले राज्यको अपराध तथ्यांक र अनुसन्धान ब्युरोबाट पनि जानकारी पहुँच गरेको हुन सक्छ । मिन्सका अनुसार जानकारी निजी वा व्यक्तिगत थिएन ।

अनधिकृत पहुँच
धेरै मानिस एआई प्रणालीलाई तिनीहरू मानव हुन् जस्तो सोच्छन्, जसले हामी तिनीहरूसँग कुराकानी गर्दा कस्तो महसुस गर्छौं भनेर प्रतिबिम्बित गर्छ । यद्यपि, सोच्ने यो तरिकाले हामीलाई तिनीहरूका लागि जिम्मेवार कम्पनीबाट जिम्मेवारी हटाउन पनि अनुमति दिन्छ ।

अस्ट्रेलियाका उपप्रधानमन्त्री रिचर्ड मार्ल्सले मेडिकेयर ह्याकलाई ‘अनधिकृत पहुँच’ भनेर वर्णन गरे, जबकि ओपन एआई प्रवक्ता र्ड्यु पुसाटेरीले यसलाई ‘गलत तरिकाले मिलाइएको मोडेल’का रूपमा उल्लेख गरे । यस प्रकारको मोडेल व्यवहारको फ्रेमिङले यो परिणाम निम्त्याउने मानवीय निर्णयलाई अस्पष्ट बनाउँछ । यी एजेन्ट आफैँ प्रत्यक्ष रूपमा देखिँदैनन् । तिनीहरू सफ्टवेयर प्रणाली हुन्, जुन मानिसद्वारा डिजाइन गरिएका हुन्छन् र मानिसमार्फत नै सञ्चालित हुन्छन् । यद्यपि, यसप्रकारको एआई कार्यका लागि कानुनी रूपमा को जिम्मेवार छ भनेर स्थापित गर्नु वास्तविक चुनौती हो । यस वर्षको सुरुमा एक भाषणमा न्यु साउथ वेल्सका मुख्य न्यायाधीश एन्ड्रयु बेलले  अस्ट्रेलियामा हालको कानुनी मानक स्पष्ट रहेको र एआई एजेन्टलाई तिनीहरूको कार्यका लागि आफैँमा दोष दिन नसकिने बताएका थिए । कानुनी दायित्व प्रयोगकर्तामा पनि पर्छ भन्ने छैन । उदाहरणका लागि यदि कुनै मानिसले एआई एजेन्टलाई स्वास्थ्य तथ्यांक संकलन गर्न भन्छ र एजेन्टले त्यसो गर्न सरकारी सर्भर ह्याक गर्छ भने मानिस दोषी ठहर नहुन सक्छ । एआई एजेन्टमाथि आरोप लगाउने कुरा कानुनी विषय पनि हो । हालका कानुनले एआई कार्यलाई प्रभावकारी रूपमा ‘डिल’ गर्छन्,  मानौँ, तिनीहरू हामीसँग हुने कुरा हुन्, जस्तै– गम्भीर मौसम घटना । यसले हाम्रो कानुनी प्रणालीमा एउटा स्पष्ट कमजोरी देखाउँछ, जसले यी प्रणाली बनाउने, मर्मत गर्ने र प्रयोग गर्नेहरूमा केही त्रुटि हुँदा जवाफदेही बनाउँदैन ।

(कलन मेलबर्न विश्वविद्यालयको स्कुल अफ कम्प्युटिङ एन्ड इन्फर्मेसन सिस्टम्सका अनुसन्धान फेलो हुन्)

द कन्भर्सेसनबाट