WHO ay naglabas ng bagong patnubay sa etika at pamamahala ng malalaking multi-modal na modelo (LMM) para sa angkop na paggamit nito upang itaguyod at protektahan ang kalusugan ng mga populasyon. Ang mga LMM ay isang uri ng mabilis na lumalagong generative artificial intelligence (AI) na teknolohiya na may limang malawak na aplikasyon para sa kalusugan in
1. Diagnosis at klinikal na pangangalaga, tulad ng pagtugon sa mga nakasulat na tanong ng mga pasyente;
2. Paggamit na ginagabayan ng pasyente, tulad ng para sa pagsisiyasat ng mga sintomas at paggamot;
3. Mga gawaing klerikal at administratibo, tulad ng pagdodokumento at pagbubuod ng mga pagbisita sa pasyente sa loob ng mga elektronikong rekord ng kalusugan;
4. Edukasyong medikal at nursing, kabilang ang pagbibigay sa mga nagsasanay ng mga simulate na pagharap sa pasyente, at;
5. Siyentipikong pananaliksik at pagpapaunlad ng gamot, kabilang ang pagtukoy ng mga bagong compound.
Gayunpaman, ang mga application na ito sa pangangalagang pangkalusugan ay nagpapatakbo ng mga panganib na makagawa ng mali, hindi tumpak, may kinikilingan, o hindi kumpletong mga pahayag, na maaaring makapinsala sa mga taong gumagamit ng naturang impormasyon sa paggawa ng mga desisyon sa kalusugan. Higit pa rito, maaaring sanayin ang mga LMM sa data na hindi maganda ang kalidad o bias, sa lahi man, etnisidad, ninuno, kasarian, pagkakakilanlan ng kasarian, o edad. Mayroon ding mas malawak na mga panganib sa mga sistema ng kalusugan, tulad ng accessibility at affordability ng pinakamahusay na gumaganap na LMMs. Ang mga LMM ay maaari ding hikayatin ang 'automation bias' ng mga propesyonal sa pangangalagang pangkalusugan at mga pasyente, kung saan ang mga pagkakamali ay hindi napapansin na kung hindi man ay natukoy na o mahirap na mga pagpipilian ay hindi wastong itinalaga sa isang LMM. Ang mga LMM, tulad ng iba pang anyo ng AI, ay mahina rin sa mga panganib sa cybersecurity na maaaring ilagay sa panganib ang impormasyon ng pasyente o ang pagiging mapagkakatiwalaan ng mga algorithm na ito at ang pagbibigay ng pangangalagang pangkalusugan nang mas malawak.
Samakatuwid, upang lumikha ng ligtas at epektibong mga LMM, gumawa ang WHO ng mga rekomendasyon para sa mga pamahalaan at mga developer ng mga LMM.
Ang mga pamahalaan ay may pangunahing responsibilidad na magtakda ng mga pamantayan para sa pagbuo at pag-deploy ng mga LMM, at ang kanilang pagsasama at paggamit para sa pampublikong kalusugan at medikal na layunin. Ang mga pamahalaan ay dapat mamuhunan sa o magbigay ng hindi-para sa kita o pampublikong imprastraktura, kabilang ang kapangyarihan sa pag-compute at mga pampublikong set ng data, na naa-access ng mga developer sa pampubliko, pribado at hindi pangkalakal na sektor, na nangangailangan ng mga user na sumunod sa mga etikal na prinsipyo at halaga sa exchange para sa access.
· Gumamit ng mga batas, patakaran at regulasyon upang matiyak na ang mga LMM at aplikasyon na ginagamit sa pangangalagang pangkalusugan at gamot, anuman ang panganib o benepisyong nauugnay sa AI teknolohiya, nakakatugon sa mga etikal na obligasyon at mga pamantayan ng karapatang pantao na nakakaapekto, halimbawa, sa dignidad, awtonomiya o privacy ng isang tao.
· Magtalaga ng isang umiiral o bagong ahensya ng regulasyon upang tasahin at aprubahan ang mga LMM at mga aplikasyon na nilayon para gamitin sa pangangalagang pangkalusugan o gamot – bilang pinahihintulutan ng mga mapagkukunan.
· Ipakilala ang mandatoryong post-release na pag-audit at mga pagtatasa ng epekto, kabilang ang para sa proteksyon ng data at karapatang pantao, ng mga independiyenteng ikatlong partido kapag ang isang LMM ay na-deploy sa malaking sukat. Dapat na mai-publish ang pag-audit at mga pagtatasa ng epekto
at dapat isama ang mga kinalabasan at epekto na pinaghiwa-hiwalay ayon sa uri ng user, kabilang ang halimbawa ayon sa edad, lahi o kapansanan.
· Ang mga LMM ay dinisenyo hindi lamang ng mga siyentipiko at inhinyero. Ang mga potensyal na gumagamit at lahat ng direkta at hindi direktang stakeholder, kabilang ang mga medikal na tagapagkaloob, siyentipikong mananaliksik, propesyonal sa pangangalagang pangkalusugan at mga pasyente, ay dapat na makisali sa mga unang yugto ng AI pag-unlad sa structured, inclusive, transparent na disenyo at binigyan ng mga pagkakataong maglabas ng mga isyu sa etika, boses na alalahanin at magbigay ng input para sa AI isinasaalang-alang ang aplikasyon.
Ang mga LMM ay idinisenyo upang magsagawa ng mahusay na tinukoy na mga gawain nang may kinakailangang katumpakan at pagiging maaasahan upang mapabuti ang kapasidad ng mga sistema ng kalusugan at isulong ang mga interes ng pasyente. Dapat ding mahulaan at maunawaan ng mga developer ang mga potensyal na pangalawang resulta.
***
Source:
WHO 2024. Etika at pamamahala ng artificial intelligence para sa kalusugan: gabay sa malalaking multi-modal na modelo. Available sa https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
