कौन आबादी के स्वास्थ्य को बढ़ावा देने और उसकी सुरक्षा के लिए इसके उचित उपयोग के लिए बड़े मल्टी-मोडल मॉडल (एलएमएम) की नैतिकता और शासन पर नए दिशानिर्देश जारी किए हैं। एलएमएम एक प्रकार का तेजी से बढ़ने वाला जेनरेटर है कृत्रिम बुद्धिमत्ता (एआई) तकनीक जिसके स्वास्थ्य के लिए पांच व्यापक अनुप्रयोग हैं in
1. निदान और नैदानिक देखभाल, जैसे रोगियों के लिखित प्रश्नों का उत्तर देना;
2. रोगी-निर्देशित उपयोग, जैसे लक्षणों की जांच और उपचार के लिए;
3. लिपिकीय और प्रशासनिक कार्य, जैसे इलेक्ट्रॉनिक स्वास्थ्य रिकॉर्ड के भीतर रोगी के दौरों का दस्तावेजीकरण और सारांश बनाना;
4. चिकित्सा और नर्सिंग शिक्षा, जिसमें प्रशिक्षुओं को नकली रोगी मुठभेड़ प्रदान करना शामिल है, और;
5. वैज्ञानिक अनुसंधान और औषधि विकास, जिसमें नए यौगिकों की पहचान करना शामिल है।
However, these applications in healthcare run the risks of producing false, inaccurate, biased, or incomplete statements, which could harm people using such information in making health decisions. Furthermore, LMMs may be trained on data that are of poor quality or biased, whether by race, ethnicity, ancestry, sex, gender identity, or age. There are also broader risks to health systems, such as accessibility and affordability of the best performing LMMs. LMMs can also encourage ‘automation bias’ by health care professionals and patients, whereby errors are overlooked that would otherwise have been identified or difficult choices are improperly delegated to a LMM. LMMs, like other forms of AI, are also vulnerable to cybersecurity risks that could endanger patient information or the trustworthiness of these algorithms and the provision of health care more broadly.
इसलिए, सुरक्षित और प्रभावी एलएमएम बनाने के लिए, डब्ल्यूएचओ ने सरकारों और एलएमएम के डेवलपर्स के लिए सिफारिशें की हैं।
एलएमएम के विकास और तैनाती, और सार्वजनिक स्वास्थ्य और चिकित्सा उद्देश्यों के लिए उनके एकीकरण और उपयोग के लिए मानक निर्धारित करना सरकारों की प्राथमिक जिम्मेदारी है। सरकारों को कंप्यूटिंग शक्ति और सार्वजनिक डेटा सेट सहित गैर-लाभकारी या सार्वजनिक बुनियादी ढांचे में निवेश करना चाहिए या सार्वजनिक, निजी और गैर-लाभकारी क्षेत्रों में डेवलपर्स के लिए सुलभ होना चाहिए, जिसके लिए उपयोगकर्ताओं को नैतिक सिद्धांतों और मूल्यों का पालन करना आवश्यक है। पहुंच के लिए विनिमय.
· Use laws, policies and regulations to ensure that LMMs and applications used in health care and medicine, irrespective of the risk or benefit associated with the AI technology, meet ethical obligations and human rights standards that affect, for example, a person’s dignity, autonomy or privacy.
· स्वास्थ्य देखभाल या चिकित्सा में उपयोग के लिए इच्छित एलएमएम और अनुप्रयोगों का मूल्यांकन और अनुमोदन करने के लिए एक मौजूदा या नई नियामक एजेंसी को नियुक्त करें - जैसा कि संसाधन अनुमति देते हैं।
· जब एलएमएम को बड़े पैमाने पर तैनात किया जाता है, तो स्वतंत्र तृतीय पक्षों द्वारा डेटा सुरक्षा और मानवाधिकारों सहित अनिवार्य पोस्ट-रिलीज़ ऑडिटिंग और प्रभाव आकलन शुरू करें। ऑडिटिंग और प्रभाव आकलन प्रकाशित किया जाना चाहिए
और इसमें उपयोगकर्ता के प्रकार के आधार पर अलग-अलग परिणाम और प्रभाव शामिल होने चाहिए, उदाहरण के लिए उम्र, नस्ल या विकलांगता के आधार पर।
· LMMs are designed not only by scientists and engineers. Potential users and all direct and indirect stakeholders, including medical providers, scientific researchers, health care professionals and patients, should be engaged from the early stages of AI development in structured, inclusive, transparent design and given opportunities to raise ethical issues, voice concerns and provide input for the AI application under consideration.
एलएमएम को स्वास्थ्य प्रणालियों की क्षमता में सुधार और रोगी के हितों को आगे बढ़ाने के लिए आवश्यक सटीकता और विश्वसनीयता के साथ अच्छी तरह से परिभाषित कार्यों को करने के लिए डिज़ाइन किया गया है। डेवलपर्स को संभावित माध्यमिक परिणामों की भविष्यवाणी करने और समझने में भी सक्षम होना चाहिए।
***
स्रोत:
WHO 2024. स्वास्थ्य के लिए कृत्रिम बुद्धिमत्ता की नैतिकता और शासन: बड़े मल्टी-मोडल मॉडल पर मार्गदर्शन। उपलब्ध है https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
