वीरगञ्ज । कृत्रिम बुद्धिमत्ता (एआई) ले दिने निर्णय कति पारदर्शी र बुझ्न सकिने छन् भन्ने विषयमा केन्द्रित नयाँ अनुसन्धान सार्वजनिक भएको छ। डा. अञ्जयकुमार मिश्रको नेतृत्वमा गरिएको अध्ययनले स्वास्थ्य सेवा र उच्च शिक्षामा प्रयोग हुने एआई प्रणालीको निर्णय प्रक्रिया मूल्याङ्कन गर्न ‘म्याथम्याटिकल एक्सप्लेनेबिलिटी इन्डेक्स’ (एमईआई) नामक ढाँचा प्रस्ताव गरेको छ।
अनुसन्धानले एआईले दिएको नतिजा सही छ कि छैन भन्ने मात्र नभई उक्त नतिजा कुन आधारमा आएको हो भन्ने कुरा पनि बुझ्न सकिने हुनुपर्नेमा जोड दिएको छ। विशेषगरी स्वास्थ्य र शिक्षाजस्ता संवेदनशील क्षेत्रमा एआईको निर्णय प्रक्रिया पारदर्शी हुनु आवश्यक रहेको अध्ययनको निष्कर्ष छ।
अध्ययनअनुसार कुनै एआई प्रणालीले बिरामीलाई उच्च जोखिममा रहेको देखाएमा चिकित्सकले त्यसको आधार बुझ्न सक्नुपर्छ। त्यस्तै, कुनै विद्यार्थीको शैक्षिक प्रदर्शन कमजोर हुन सक्ने अनुमान गरेमा शिक्षक, विद्यार्थी र अभिभावकले त्यसको कारण थाहा पाउनुपर्ने हुन्छ। एआईको निर्णयलाई मानिसले बुझ्न र आवश्यक पर्दा त्यसको परीक्षण गर्न सक्ने अवधारणालाई ‘एक्सप्लेनेबल आर्टिफिसियल इन्टेलिजेन्स’ भनिन्छ।
‘म्याथम्याटिकल एक्सप्लेनेबिलिटी इन्डेक्स फर आर्टिफिसियल इन्टेलिजेन्स डिसिजन सिस्टम्स इन हेल्थकेयर एन्ड हायर एजुकेसन’ शीर्षकको उक्त अनुसन्धान सन् २०२६ मा नेपाल संस्कृत विश्वविद्यालयबाट प्रकाशित ‘सर्वोच्च प्रभा’ जर्नलको पहिलो खण्ड, पहिलो अङ्कमा समावेश छ। ‘डिजिटल अपरेसन म्यानेजमेन्ट’ अनुसन्धानअन्तर्गत गरिएको यस अध्ययनलाई अमेरिकास्थित इन्टरनेसनल अमेरिकन काउन्सिल फर रिसर्च एन्ड डेभलपमेन्टले आर्थिक सहयोग गरेको छ।
अध्ययनमा ए. दिनेश कुमार, ड्यानियल केब्बी कोन्तेह, अञ्जयकुमार मिश्र, एम. वासुकी, माइकल मार्टिन्सन बोआक्ये, लोयड जुलु र शिला मिश्र सहभागी छन्।
सात आधारमा एआईको मूल्याङ्कन
प्रस्तावित एमईआई ढाँचाले एआईको निर्णय बुझ्न सकिने गुणलाई सातवटा पक्षबाट मूल्याङ्कन गर्ने अवधारणा अघि सारेको छ। यसमा निर्णय प्रक्रिया कति पारदर्शी छ, व्याख्या बुझ्न कति सहज छ र त्यसले वास्तविक निर्णय प्रक्रियालाई कति सही रूपमा प्रस्तुत गर्छ भन्ने विषय समेटिएका छन्।
त्यस्तै, समान परिस्थितिमा व्याख्या कति स्थिर रहन्छ, फरक परिस्थितिमा मूल्याङ्कन कति सुसंगत हुन्छ, व्याख्या कति सरल छ र प्रयोगकर्ताको विश्वास कस्तो छ भन्ने पक्षलाई पनि महत्त्व दिइएको छ।
यी सातवटै पक्षलाई एकीकृत गरी एआई प्रणालीको व्याख्यात्मक क्षमताको समग्र मूल्याङ्कन गर्ने प्रस्ताव अध्ययनले गरेको छ। यद्यपि प्रकाशित लेखमा यसको गणना गर्ने निश्चित समीकरण, भार निर्धारण र अङ्कका आधारमा वर्गीकरण गर्ने विस्तृत विधि प्रस्तुत गरिएको छैन। त्यसैले यसलाई पूर्ण गणनात्मक उपकरणभन्दा प्रारम्भिक मूल्याङ्कन ढाँचाका रूपमा बुझ्नुपर्ने देखिन्छ।
स्वास्थ्य र शिक्षामा उपयोगको सम्भावना
स्वास्थ्य क्षेत्रमा रोग पहिचान, बिरामीको जोखिम अनुमान तथा उपचारसम्बन्धी निर्णयमा सहयोग गर्ने एआई प्रणालीको पारदर्शिता मूल्याङ्कन गर्न यो अवधारणा उपयोगी हुन सक्ने अध्ययनले उल्लेख गरेको छ। यसको उद्देश्य चिकित्सकको स्थान मेसिनले लिनु नभई चिकित्सकलाई एआईको सुझाव बुझ्न र त्यसको आधार जाँच्न सहयोग गर्नु हो।
त्यस्तै, उच्च शिक्षामा विद्यार्थीको शैक्षिक प्रगति, पढाइ छाड्ने सम्भावना, भर्ना प्रक्रिया तथा शैक्षिक योजना निर्माणमा प्रयोग हुने एआई प्रणालीको निर्णय प्रक्रिया बुझ्न पनि यो ढाँचा उपयोगी हुन सक्ने अध्ययनको प्रस्ताव छ।
अध्ययनमा निर्णयका विभिन्न चरण देखाउन सकिने ‘डिसिजन ट्री’ जस्ता मोडेललाई तुलनात्मक रूपमा सहज व्याख्या गर्न सकिने उल्लेख छ। तर जटिल न्युरल नेटवर्कमा निर्णयको आधार स्पष्ट पार्न थप प्रयास आवश्यक हुने जनाइएको छ।
थप परीक्षण आवश्यक
अनुसन्धानले नयाँ अवधारणा अघि सारे पनि यसको व्यावहारिक प्रभावकारिता पुष्टि गर्न थप परीक्षण आवश्यक रहेको अध्ययनले स्वीकार गरेको छ। वास्तविक स्वास्थ्य तथा शैक्षिक तथ्याङ्कमा गरिएको विस्तृत परीक्षण, गणना गरिएको एमईआई अङ्क र संवेदनशीलता विश्लेषणसम्बन्धी विवरण प्रकाशित लेखमा समावेश छैनन्।
त्यसैले प्रस्तावित ढाँचालाई एआई प्रणाली सुरक्षित, निष्पक्ष वा पूर्ण रूपमा भरपर्दो रहेको प्रमाणका रूपमा लिन मिल्दैन। वास्तविक सेवामा यसको प्रभावकारिता स्थापित गर्न ठूलो परिमाणको तथ्याङ्क र विभिन्न एआई मोडेलमा थप अनुसन्धान गर्नुपर्ने देखिन्छ।
समग्रमा, डा. मिश्रको नेतृत्वमा गरिएको यस अनुसन्धानले एआईको मूल्याङ्कन गर्दा त्यसले दिएको उत्तर मात्र नभई उत्तर निर्माणको आधार पनि पारदर्शी हुनुपर्ने विषयलाई प्राथमिकतामा राखेको छ। स्वास्थ्य र शिक्षाजस्ता संवेदनशील क्षेत्रमा प्रविधिप्रति विश्वास कायम गर्न एआईका निर्णय मानिसले बुझ्न, जाँच्न र आवश्यक पर्दा प्रश्न गर्न सक्ने हुनुपर्ने अध्ययनको मुख्य सन्देश छ।
