एआई पूर्वाग्रह रंग के लोगों के लिए COVID-19 स्वास्थ्य असमानताओं को खराब कर सकता है

0
40


डेवलपर्स और डेटा वैज्ञानिकों लंबे समय से कहा है कि पक्षपाती डेटा अक्सर पक्षपाती मॉडल की ओर जाता है जब यह मशीन सीखने और कृत्रिम बुद्धि की बात आती है।

नया लेख में जर्नल ऑफ़ द अमेरिकन मेडिकल इंफ़ॉर्मेटिक्स एसोसिएशन तर्क है कि इस तरह के पक्षपाती मॉडल COVID-19 महामारी के रंग के लोगों पर होने वाले प्रतिकूल प्रभाव को और बढ़ा सकते हैं।

लेख के लेखक, स्विस फेडरल इंस्टीट्यूट ऑफ टेक्नोलॉजी के इलियान रोओस्ली, और स्टैनफोर्ड विश्वविद्यालय के ब्रायन राइस और टीना हर्नांडेज़-बाउसर्ड ने उल्लेख किया कि वैश्विक शोध समुदाय ने नए निष्कर्षों को आगे बढ़ाने के लिए दौड़ लगाई है, यह पक्षपातपूर्ण भविष्यवाणी मॉडल का उत्पादन करने का जोखिम रखता है। ।

“अगर ठीक से संबोधित नहीं किया जाता है, तो एआई के मैंटल के तहत इन गैसों को फैलाने से अल्पसंख्यक आबादी को पहले से ही सबसे अधिक बीमारी के बोझ से प्रभावित होने वाली स्वास्थ्य असमानताओं को अतिरंजित करने की क्षमता है,” शोधकर्ताओं ने लिखा।

यह क्यों मायने रखता है

COVID-19 महामारी का रंग, स्वास्थ्य और प्रणालीगत नस्लवाद में मौजूदा असमानताओं से बिगड़े हुए लोगों पर बहुत गहरा प्रभाव पड़ा है।

एक ही समय में, शोधकर्ताओं ने कहा, COVID-19 भविष्यवाणी मॉडल विशेष रूप से संभावित पूर्वाग्रह के बारे में गंभीर कमियां पेश कर सकते हैं।

COVID-19 भविष्यवाणी मॉडल की हालिया व्यवस्थित समीक्षा में, उन्होंने लिखा, “सबसे अधिक लगातार समस्याओं का सामना करना पड़ा अप्रतिस्पर्धी डेटा नमूने, मॉडल ओवरफिटिंग की उच्च संभावना, और अध्ययन आबादी और इच्छित मॉडल के उपयोग की रिपोर्टिंग को बाधित करते हैं।”

शोधकर्ताओं ने AI के संबंध में खतरे को आंतरिक उद्देश्य के रूप में चिह्नित किया, खासकर जब वेंटिलेटर और गहन देखभाल इकाई बेड सहित संसाधनों के इष्टतम आवंटन के लिए मॉडल का निर्माण किया।

“ये उपकरण पक्षपाती डेटा से बने हैं जो पक्षपाती स्वास्थ्य प्रणालियों को दर्शाते हैं और इस प्रकार स्वयं भी पूर्वाग्रह के उच्च जोखिम में हैं – भले ही स्पष्ट रूप से संवेदनशील विशेषताओं जैसे कि दौड़ या लिंग को छोड़कर,” उन्होंने लिखा।

उदाहरण के लिए, उन्होंने तर्क दिया, ऐसे मॉडल जिनमें COVID-19 से जुड़ी कोमॉरिडिटी शामिल हैं, उन संरचनात्मक पूर्वाग्रहों को सुदृढ़ कर सकते हैं, जो उन समूहों का नेतृत्व करते हैं, जो कॉमरेडिटी का अनुभव करते हैं।

उन्होंने लिखा, “संसाधन आवंटन मॉडल को अपनी बुनियादी उपयोगितावादी बुनियाद से परे जाना चाहिए, क्योंकि पहले से ही प्रणालीगत भेदभाव में निहित स्वास्थ्य असमानताओं के आधार पर COVID -19 से सबसे अधिक पीड़ित अल्पसंख्यक समूहों को नुकसान पहुंच सकता है।”

इन चुनौतियों का प्रबंधन करने के लिए, शोधकर्ताओं ने AI मॉडल के स्रोत कोड को सार्वजनिक करने सहित पारदर्शिता ढांचे और रिपोर्टिंग मानकों को लागू करने का सुझाव दिया।

उन्होंने विनियामक अवसंरचना को भी प्रोत्साहित किया, जो व्यापक-आधारित डेटा साझाकरण को प्राथमिकता देता है, यह देखते हुए कि शैक्षणिक स्वास्थ्य प्रणाली में विकसित मॉडल सामान्य अमेरिकी आबादी का प्रतिनिधित्व नहीं कर सकते हैं।

“COVID- संबंधित डेटा अविश्वसनीय गति से उत्पादित किए जा रहे हैं, लेकिन ये डेटा प्रत्येक देश या शैक्षणिक संस्थान के भीतर आंशिक रूप से और आंशिक रूप से उपयुक्त प्रोत्साहन की कमी के कारण आंशिक रूप से मौन रहते हैं,” उन्होंने लिखा।

लार्जर ट्रेंड

हितधारकों ने एल्गोरिथम पूर्वाग्रह की रोकथाम को नैतिक एआई मॉडल विकास का एक अभिन्न अंग के रूप में प्रस्तुत किया है।

2019 की शुरुआत में, ड्यूक-मार्गोलिस सेंटर फॉर हेल्थ पॉलिसी पेपर एक रिपोर्ट जारी की एआई में पूर्वाग्रह शमन भी शामिल है, डेवलपर्स, नियामकों, चिकित्सकों और नीति निर्माताओं के लिए एक प्राथमिकता के रूप में। स्वास्थ्य प्रणालियों को सर्वोत्तम प्रथाओं को विकसित करने की आवश्यकता होगी, उन्होंने लिखा, कि प्रशिक्षण डेटा द्वारा पेश किए गए किसी भी पूर्वाग्रह को संबोधित कर सकते हैं।

बाद में उस वर्ष, यूएस सेंसर। कोरी बुकर, डी.एन.जे., और रॉन विडेन, डी-ओरे। ट्रम्प प्रशासन से आग्रह किया और स्वास्थ्य बीमा एल्गोरिदम में नस्लीय पूर्वाग्रह का मुकाबला करने के लिए प्रमुख बीमाकर्ता।

“हेल्थकेयर में, रोगियों को छाँटने के लिए एल्गोरिदम का उपयोग करने और ज़रूरतमंद लोगों की देखभाल करने में बहुत अच्छा वादा है। हालांकि, ये सिस्टम पूर्वाग्रह की समस्या से मुक्त नहीं हैं,” सीनेटरों ने कहा।

रिकॉर्ड पर

“उम्मीद है कि एआई इस संकट के भीतर दुर्लभ संसाधनों के आवंटन सहित उपचार के फैसलों को निर्देशित करने में मदद कर सकता है। हालांकि, एआई उपकरण को जल्दबाजी में अपनाने से पक्षपातपूर्ण, अप्रमाणिक प्रशिक्षण डेटा और एक नियामक COVID-19 डेटा की कमी के कारण काफी जोखिम होता है। सत्यापन प्रयोजनों के लिए संसाधन, “शोधकर्ताओं ने लिखा है जामिया लेख।

उन्होंने लिखा, “गैसों की व्यापकता को देखते हुए, COVID-19 महामारी संबंधी जोखिमों के दौरान व्यापक शमन रणनीतियों को विकसित करने में विफलता मौजूदा स्वास्थ्य असमानताओं को बढ़ाती है और एआई उपकरणों को अपनाने में बाधा डालती है, जो परिणामों को सुधारने में सक्षम हैं।”

कैट जेरिक हेल्थकेयर आईटी न्यूज के वरिष्ठ संपादक हैं।
ट्विटर: @kjercich
हेल्थकेयर आईटी न्यूज़ एक HIMSS मीडिया प्रकाशन है।