जनरेटिव आर्टिफिशियल इंटेलिजेंस (एआई): डब्ल्यूएचओ एलएमएम के प्रशासन पर नए दिशानिर्देश जारी करता है

कौन आबादी के स्वास्थ्य को बढ़ावा देने और उसकी सुरक्षा के लिए इसके उचित उपयोग के लिए बड़े मल्टी-मोडल मॉडल (एलएमएम) की नैतिकता और शासन पर नए दिशानिर्देश जारी किए हैं। एलएमएम एक प्रकार का तेजी से बढ़ने वाला जेनरेटर है कृत्रिम बुद्धिमत्ता (एआई) तकनीक जिसके स्वास्थ्य के लिए पांच व्यापक अनुप्रयोग हैं in 

1. निदान और नैदानिक ​​देखभाल, जैसे रोगियों के लिखित प्रश्नों का उत्तर देना; 

2. रोगी-निर्देशित उपयोग, जैसे लक्षणों की जांच और उपचार के लिए; 

3. लिपिकीय और प्रशासनिक कार्य, जैसे इलेक्ट्रॉनिक स्वास्थ्य रिकॉर्ड के भीतर रोगी के दौरों का दस्तावेजीकरण और सारांश बनाना; 

4. चिकित्सा और नर्सिंग शिक्षा, जिसमें प्रशिक्षुओं को नकली रोगी मुठभेड़ प्रदान करना शामिल है, और; 

5. वैज्ञानिक अनुसंधान और औषधि विकास, जिसमें नए यौगिकों की पहचान करना शामिल है। 

हालाँकि, स्वास्थ्य देखभाल में ये अनुप्रयोग झूठे, गलत, पक्षपातपूर्ण या अधूरे बयान देने का जोखिम उठाते हैं, जो स्वास्थ्य निर्णय लेने में ऐसी जानकारी का उपयोग करने वाले लोगों को नुकसान पहुंचा सकते हैं। इसके अलावा, एलएमएम को उन डेटा पर प्रशिक्षित किया जा सकता है जो खराब गुणवत्ता वाले या पक्षपाती हैं, चाहे वह नस्ल, जातीयता, वंश, लिंग, लिंग पहचान या उम्र के आधार पर हो। स्वास्थ्य प्रणालियों के लिए व्यापक जोखिम भी हैं, जैसे सर्वोत्तम प्रदर्शन करने वाले एलएमएम की पहुंच और सामर्थ्य। एलएमएम स्वास्थ्य देखभाल पेशेवरों और रोगियों द्वारा 'स्वचालन पूर्वाग्रह' को भी प्रोत्साहित कर सकते हैं, जिससे उन त्रुटियों को नजरअंदाज कर दिया जाता है जिन्हें अन्यथा पहचाना जा सकता था या कठिन विकल्प अनुचित तरीके से एलएमएम को सौंप दिए जाते हैं। एलएमएम, अन्य रूपों की तरह AI, साइबर सुरक्षा जोखिमों के प्रति भी संवेदनशील हैं जो रोगी की जानकारी या इन एल्गोरिदम की विश्वसनीयता और स्वास्थ्य देखभाल के प्रावधान को अधिक व्यापक रूप से खतरे में डाल सकते हैं। 

इसलिए, सुरक्षित और प्रभावी एलएमएम बनाने के लिए, डब्ल्यूएचओ ने सरकारों और एलएमएम के डेवलपर्स के लिए सिफारिशें की हैं। 

एलएमएम के विकास और तैनाती, और सार्वजनिक स्वास्थ्य और चिकित्सा उद्देश्यों के लिए उनके एकीकरण और उपयोग के लिए मानक निर्धारित करना सरकारों की प्राथमिक जिम्मेदारी है। सरकारों को कंप्यूटिंग शक्ति और सार्वजनिक डेटा सेट सहित गैर-लाभकारी या सार्वजनिक बुनियादी ढांचे में निवेश करना चाहिए या सार्वजनिक, निजी और गैर-लाभकारी क्षेत्रों में डेवलपर्स के लिए सुलभ होना चाहिए, जिसके लिए उपयोगकर्ताओं को नैतिक सिद्धांतों और मूल्यों का पालन करना आवश्यक है। पहुंच के लिए विनिमय. 

· यह सुनिश्चित करने के लिए कानूनों, नीतियों और विनियमों का उपयोग करें कि स्वास्थ्य देखभाल और चिकित्सा में एलएमएम और अनुप्रयोगों का उपयोग किया जाए, इससे जुड़े जोखिम या लाभ के बावजूद AI प्रौद्योगिकी, नैतिक दायित्वों और मानवाधिकार मानकों को पूरा करती है जो, उदाहरण के लिए, किसी व्यक्ति की गरिमा, स्वायत्तता या गोपनीयता को प्रभावित करते हैं। 

· स्वास्थ्य देखभाल या चिकित्सा में उपयोग के लिए इच्छित एलएमएम और अनुप्रयोगों का मूल्यांकन और अनुमोदन करने के लिए एक मौजूदा या नई नियामक एजेंसी को नियुक्त करें - जैसा कि संसाधन अनुमति देते हैं। 

· जब एलएमएम को बड़े पैमाने पर तैनात किया जाता है, तो स्वतंत्र तृतीय पक्षों द्वारा डेटा सुरक्षा और मानवाधिकारों सहित अनिवार्य पोस्ट-रिलीज़ ऑडिटिंग और प्रभाव आकलन शुरू करें। ऑडिटिंग और प्रभाव आकलन प्रकाशित किया जाना चाहिए 

और इसमें उपयोगकर्ता के प्रकार के आधार पर अलग-अलग परिणाम और प्रभाव शामिल होने चाहिए, उदाहरण के लिए उम्र, नस्ल या विकलांगता के आधार पर। 

· एलएमएम न केवल वैज्ञानिकों और इंजीनियरों द्वारा डिज़ाइन किए गए हैं। संभावित उपयोगकर्ताओं और चिकित्सा प्रदाताओं, वैज्ञानिक शोधकर्ताओं, स्वास्थ्य देखभाल पेशेवरों और रोगियों सहित सभी प्रत्यक्ष और अप्रत्यक्ष हितधारकों को प्रारंभिक चरण से ही शामिल किया जाना चाहिए। AI संरचित, समावेशी, पारदर्शी डिजाइन में विकास और नैतिक मुद्दों को उठाने, चिंताओं को उठाने और इनपुट प्रदान करने के अवसर दिए गए AI आवेदन विचाराधीन. 

एलएमएम को स्वास्थ्य प्रणालियों की क्षमता में सुधार और रोगी के हितों को आगे बढ़ाने के लिए आवश्यक सटीकता और विश्वसनीयता के साथ अच्छी तरह से परिभाषित कार्यों को करने के लिए डिज़ाइन किया गया है। डेवलपर्स को संभावित माध्यमिक परिणामों की भविष्यवाणी करने और समझने में भी सक्षम होना चाहिए। 

*** 

स्रोत: 

WHO 2024. स्वास्थ्य के लिए कृत्रिम बुद्धिमत्ता की नैतिकता और शासन: बड़े मल्टी-मोडल मॉडल पर मार्गदर्शन। उपलब्ध है https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y 

***