भोपाल
भारतीय विज्ञान शिक्षा और अनुसंधान संस्थान (आइसर) की लैब में आर्टिफिशियल इंटेलिजेंस (एआई) सिस्टम्स से जुड़ा एक महत्वपूर्ण शोध कार्य किया गया है। ये शोध एआइ में महिला-पुरुष, ग्रामीण-शहरी और गोरे-सांवले आदि के बीच लगातार पनप रहे पक्षपात को खत्म करेगा। इससे एआइ के प्रति भरोसा बढ़ेगा और गलतियां भी कम होंगी।
दरअसल, एआइ मॉडल को विकसित करने के लिए करोड़ों-अरबों तस्वीरों, टेक्स्ट और आवाजों समेत अन्य प्रकार की सूचनाएं विभिन्न माध्यम से दी जाती हैं। लोग जानकारी को समझने व याद करने की जगह ‘शॉर्टकट’ को अपनाते हैं, ऐसे में एआइ गलतियां करता है, लेकिन आइसर की इस तकनीक से ये सारे पूर्वाग्रह खत्म होंगे।
एआइ का ‘शॉर्टकट’ भारतीयों के लिए दिक्कत
अधिकांश एआइ मॉडल्स को यूरोप और अमेरिकी वातावरण दिया गया है। यही कारण है कि जब कोई तस्वीर मांगी जाती है, तो वह यूरोप-अमेरिकी पुरुषों की देता है, लेकिन महिला और भारतीयों की फोटो के लिए विशेष प्रॉम्प्ट देना होता है।
एआइ पुरुष उम्मीदवारों को महिलाओं से ज्यादा योग्य मान लेता है और गोरे लोगों की अपेक्षा सांवलों को कम प्राथमिकता देता है। आइसर भोपाल के पीएचडी शोधार्थी राजीव द्विवेदी और बीएस छात्र अंकुर कुमार ने असिस्टेंट प्रोफेसर डॉ. विनोद कुर्मी के मार्गदर्शन में दो साल की कड़ी मेहनत के बाद ’जेनेरलाइज्ड मल्टी बायस मिटिगेशन’ (जीएमबीएम) नामक टेक्नोलॉजी विकसित की है।
जीएमबीएम दो चरणों में करती है काम
-पहला एडेप्टिव बायस इंटीग्रेटेड लर्निंग (एबीआइएल): इसमें एआई को सभी प्रकार के ’पक्षपात’ (बायस) को पहचानना सिखाया जाता है।
-ग्रैडिएंट सप्रेशन फाइन ट्यूनिंग: इसमें एआई से उन पक्षपातपूर्ण प्रवृत्तियों को हटा दिया जाता है, जिससे वह निष्पक्ष और भरोसेमंद बन सके।