KUKA on julkaissut uudet ohjeet suurten multimodaalisten mallien (LMM) etiikasta ja hallinnosta niiden asianmukaisesta käytöstä väestön terveyden edistämiseksi ja suojelemiseksi. LMM on eräänlainen nopeasti kasvava generatiivi tekoäly (AI) -teknologiaa, jolla on viisi laajaa terveydenhuoltosovellusta in
1. Diagnoosi ja kliininen hoito, kuten vastaaminen potilaiden kirjallisiin kyselyihin;
2. Potilaan ohjaama käyttö, kuten oireiden ja hoidon tutkiminen;
3. Toimisto- ja hallintotehtävät, kuten potilaskäyntien dokumentointi ja yhteenvedon tekeminen sähköisissä terveyskertomuksissa;
4. Lääketieteellinen ja sairaanhoitajakoulutus, mukaan lukien simuloitujen potilaiden kohtaamisten tarjoaminen harjoittelijoille;
5. Tieteellinen tutkimus ja lääkekehitys, mukaan lukien uusien yhdisteiden tunnistaminen.
Nämä terveydenhuollon sovellukset ovat kuitenkin vaarassa tuottaa vääriä, epätarkkoja, puolueellisia tai epätäydellisiä lausuntoja, jotka voivat vahingoittaa ihmisiä, jotka käyttävät tällaisia tietoja terveyspäätöksiä tehdessään. Lisäksi LMM:itä voidaan kouluttaa tietojen perusteella, jotka ovat huonolaatuisia tai puolueellisia rodun, etnisen taustan, sukupuolen, sukupuolen, sukupuoli-identiteetin tai iän perusteella. Terveysjärjestelmiin liittyy myös laajempia riskejä, kuten parhaiten suoriutuvien LMM:ien saatavuus ja kohtuuhintaisuus. LMM:t voivat myös edistää terveydenhuollon ammattilaisten ja potilaiden "automaatioharhaa", jolloin virheet, jotka muuten olisi tunnistettu, jäävät huomiotta tai vaikeita valintoja siirretään väärin LMM:lle. LMM:t, kuten muutkin muodot AI, ovat myös alttiita kyberturvallisuusriskeille, jotka voivat vaarantaa potilastiedot tai näiden algoritmien luotettavuuden ja terveydenhuollon tarjoamisen laajemmin.
Siksi WHO on antanut suosituksia hallituksille ja LMM-kehittäjille luodakseen turvallisia ja tehokkaita LMM:itä.
Hallituksella on ensisijainen vastuu asettaa standardit LMM:ien kehittämiselle ja käyttöönotolle sekä niiden integroimiselle ja käytölle kansanterveyteen ja lääketieteellisiin tarkoituksiin. Hallitusten tulisi investoida voittoa tavoittelemattomaan tai julkiseen infrastruktuuriin, mukaan lukien laskentateho ja julkiset tietojoukot, jotka ovat julkisen, yksityisen ja voittoa tavoittelemattoman sektorin kehittäjien saatavilla ja jotka edellyttävät käyttäjien noudattavan eettisiä periaatteita ja arvoja. vaihto pääsyyn.
· Käytä lakeja, käytäntöjä ja määräyksiä varmistaaksesi, että terveydenhuollossa ja lääketieteessä käytetyt LMM:t ja sovellukset riippumatta siitä, mitä riskejä tai etuja liittyy AI teknologiaa, täyttävät eettiset velvoitteet ja ihmisoikeusstandardit, jotka vaikuttavat esimerkiksi henkilön ihmisarvoon, itsenäisyyteen tai yksityisyyteen.
· Tehdä olemassa oleva tai uusi sääntelyvirasto arvioimaan ja hyväksymään terveydenhuollon tai lääketieteen käyttöön tarkoitettuja LMM:itä ja sovelluksia – resurssien salliessa.
· Otetaan käyttöön riippumattomien kolmansien osapuolten pakollinen julkaisun jälkeinen auditointi ja vaikutustenarviointi, mukaan lukien tietosuoja ja ihmisoikeudet, kun LMM:ää käytetään laajasti. Tarkastukset ja vaikutustenarvioinnit olisi julkaistava
ja sen tulisi sisältää tulokset ja vaikutukset eriteltyinä käyttäjätyypin mukaan, mukaan lukien esimerkiksi iän, rodun tai vamman mukaan.
· LMM:t eivät ole vain tiedemiesten ja insinöörien suunnittelemia. Mahdolliset käyttäjät ja kaikki suorat ja epäsuorat sidosryhmät, mukaan lukien lääketieteen tarjoajat, tieteelliset tutkijat, terveydenhuollon ammattilaiset ja potilaat, olisi otettava mukaan toimintaan jo varhaisessa vaiheessa. AI kehittäminen jäsennellyssä, osallistavassa, läpinäkyvässä suunnittelussa ja mahdollisuus ottaa esille eettisiä kysymyksiä, ilmaista huolenaiheita ja antaa panoksensa AI hakemus käsittelyssä.
LMM:t on suunniteltu suorittamaan hyvin määriteltyjä tehtäviä tarvittavalla tarkkuudella ja luotettavuudella parantamaan terveydenhuoltojärjestelmien kapasiteettia ja edistämään potilaiden etuja. Kehittäjien tulisi myös pystyä ennustamaan ja ymmärtämään mahdollisia toissijaisia tuloksia.
***
Lähde:
WHO 2024. Tekoälyn etiikka ja hallinto terveyteen: opastusta suuriin multimodaalimalleihin. Saatavilla https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
