Slovenska strokovnjakinja nad stranske učinke 'koktejlov zdravil' z umetno inteligenco

Umetna inteligenca prodira na številna področja, tudi v medicino. Med raziskovalci, ki so aktivni na tem področju, je tudi raziskovalka z Univerze v Stanfordu Marinka Žitnik, ki se s sodelavci ukvarja z razvojem umetne inteligence za reševanje kompleksnih vprašanj s področja biologije in medicine.

S sogovornico, ki o svojem delu govori z velikim žarom in zanosom, smo se pogovarjali o potencialu, ki ga ima umetna inteligenca tako za zdravnike, paciente kot zdravstvene sisteme in farmacevtsko industrijo, na področju predpisovanja zdravil, kar je trenutno njeno pomembno področje raziskovanja, pa tudi o etičnih vprašanjih, ki se odpirajo skupaj z uporabo velikih baz podatkov in umetne inteligence.

Zakaj je vašo pozornost ujelo prav vprašanje stranskih učinkov zdravil?

Motivirala sta nas dva pomembna aspekta. Prvi je ta, da skoraj polovica, 46 odstotkov prebivalstva ZDA, ki je starejša od 65 let, jemlje vsaj pet zdravil na recept hkrati. To je ogromna številka. Izkaže se tudi, da ni nič nenavadnega, da najdete pacienta, ki je na dvajsetih zdravilih hkrati.

Kaj se zgodi? Ko k zdravniku pride pacient, mu ta običajno predpiše zdravilo. Pogosto ima pacient celo več bolezni hkrati oziroma je njegovo zdravstveno stanje tako kompleksno, da zdravnik predpiše več zdravil. In zgodi se, da pride do nezaželenih stranskih učinkov, ti pa vodijo v dodatne, nove recepte in tako naprej. Lahko se vrti začaran krog.

Seveda so bile opravljene tudi študije o tem, kakšni so stroški zdravljenja stranskih učinkov vseh teh zdravil. Ocena je, da gre v ta namen v ZDA letno okoli 177 milijard dolarjev. Tako z vidika pacienta kot s finančnega vidika je torej to nedvomno problem, ki ga želimo rešiti.

Želja je, če gre, zmanjšati število zdravil, ki jih pacient jemlje. Tako zaradi pacienta samega kot z vidika stroška za osebo in zdravstveni  sistem.

Problem, ki ga farmacevtska industrija ne rešuje?

Sprva smo menili, da najbrž ga. Preden je zdravilo potrjeno, mora namreč skozi klinične raziskava, v kliničnih raziskavah pa je zelo pomemben ravno aspekt, ali je zdravilo varno in kakšni so njegovi stranski učinki.

A težava je, da se klinične raziskave delajo v kontekstu enega samega zdravila. Ko se razvija zdravilo, se torej naredi samo raziskava o učinkih tega zdravila, ko je uporabljano samostojno. Vemo pa, da v praksi temu pogosto ni tako. Vendar odgovor na vprašanje, kaj se zgodi, ko ljudje uživajo koktejl zdravil, dobimo samo, ko se zdravila začnejo predpisovati  v različnih kombinacijah in pacienti zdravnikom poročajo o svojih izkušnjah.

Kako na področje analize podatkov o stranskih učinkih zdravil vstopa umetna inteligenca? Katere so njene glavne prednosti?

Eksperimentalno, s kliničnimi raziskavami, medicinskimi eksperimenti je to področje težko raziskati, ker je treba obdelati ogromne količine podatkov. Možnih kombinacij zdravil je namreč zelo veliko. Na ameriškem trgu je okoli 5000 odobrenih zdravil. To pomeni, če gledamo samo kombinacijo parov zdravil, je to 25.000.000 eksperimentov, ki bi jih morali izvesti. Kaj šele, če bi želeli preveriti vse možne kombinacije petih zdravil.

Mislim, da gre za izvrsten primer, ki kar kliče po računskih postopkih, umetni inteligenci, da ta ogromen prostor učinkovito razišče, predvsem v smislu, katere kombinacije prinašajo najboljše učinke, katerim se je bolje izogniti.

Kako konkretno lahko algoritmi, tudi ta, ki ga testirate, pomagajo pacientu oziroma zdravniku?

Zdravniku lahko algoritem priporoči, katera kombinacija zdravil bi bila za pacienta najbolj varna in katera najmanj. Torej, kakšne stranske učinke lahko pacient doživi ob določeni kombinaciji. Tako se zdravnik lažje odloči za optimalno kombinacijo.

Pristop pa je uporaben tudi za ljudi, ki lahko povečajo skrb za lastno zdravje, še posebej z  zgodnjim odkrivanjem opozorilnih znakov določenih stanj in bolezni. V neki raziskavi so na primer ugotovili, da lahko zgolj s tem, da analiziramo, kako hitro nekdo tipka v brskalnik ali išče po brskalniku, opazimo zgodnje znake Alzheimerjeve ali Parkinsonove bolezni, ker se vzorec tipkanja zelo spremeni.

Pravzaprav je zbranih ogromno podatkov, tudi takšnih, za katere sprva sploh ne bi pomislili, da razkrivajo informacije o zdravstvenem stanju posameznika, pa jih. Trenutno je namreč ogromno naprav, ki generirajo ogromno količino podatkov – med drugim o gibanju, prehrani ljudi ... in s primernim algoritmom umetne inteligence se ti podatki lahko analizirajo in uporabijo za to, da se človeka opozori na to, da se je mogoče spremenil njegov način življenja, obnašanje, zmožnost določenih fizičnih aktivnosti, in bi bilo mogoče dobro obiskat zdravnika.

Kakšna je možnost napak?

Govorimo o računskih postopkih, statističnih metodah ... Lahko se zgodijo primeri, ko te metode povsem odpovejo, ko lahko predlagajo nekaj, kar je povsem nesmiselno ali bi bilo lahko celo nevarno za pacienta. Zato na vse te algoritme gledamo predvsem kot na pripomočke, ki lahko bolj zgodaj opozorijo bodisi človeka ali specialista, da je nekaj smiselno preveriti. Potem je pa končna odločitev na posamezniku oziroma na zdravniku.

Smo že blizu trenutku, ko bodo tovrstni algoritmi v zdravstvu del vsakdana?

Gre za proces, pri katerem je potrebnega ogromno sodelovanja različnih strokovnjakov. Do določene mere se v naprednih zdravstvenih sistemih te stvari že uporabljajo, veliko je eksperimentalnih primerov. Z raziskavo, kjer napovedujemo stranske učinke kombinacij zdravil, smo sedaj v fazi, ko smo se povezali z nekaj bolnišnicami na Stanfordu in Harvardu, in zdaj algoritem testiramo v klinični praksi, kar pomeni, da na podatkih resničnih pacientov preverjamo, kaj bi za te paciente napovedal naš algoritem in kaj bi, če bi bila napoved dejansko upoštevana, to pomenilo za pacienta – bi ta napoved vplivala pozitivno ali negativno na njegovo zdravje.

Seveda je delo omejeno na manjše število pacientov, ampak za nas je pomembno, da se pokaže, ali lahko ta algoritem dejansko uporabljamo v praksi – torej ne samo, da o njem pišemo v članku, ga testiramo na omejenih podatkih v kontroliranem okolju, ampak da dobi tudi uporabno vrednost.

Preden se lahko to zgodi, je seveda potrebo narediti ogromno testiranj, še posebej moramo preveriti "robne primere", ki  jih je še posebej v medicini veliko. Človeško telo je živ organizem in pogosto se zgodi nepričakovano, pogosto dobimo pacient, kot ga še nismo imeli. Treba je vedeti, kaj bo algoritem storil, ko bo prišlo do takšnega netipičnega primera.

Prav tako moramo ugotoviti, kaj se zgodi, če algoritem prenesemo iz ene bolnišnice v drugo, saj imajo bolnišnice različne interne dogovore, ko gre za beleženje podatkov o diagnozah pacientov in podobno. Veliko je torej izzivov pri prenosu algoritmov že med ustanovami, kaj šele iz enega na drugi zdravstveni sistem. Kar pa je v ZDA realnost in problem. Enotnega sistema namreč ni in to predstavlja izziv tudi na raziskovalnem področju. Ljudje se tudi selijo, s tem zamenjajo zdravstveni sistem in izgubijo zgodovino zdravljenja. Precej lažje je v evropskih državah, ker ima večina nacionalne zdravstvene sisteme, kjer je lahko zdravniku in algoritmom na voljo celotna zdravstvena zgodovina osebe. V Ameriki tega skoraj ni.

Za raziskovanje potrebujete dostop do občutljivih podatkov o pacientih. Kako to poteka?

Te podatke potrebujemo za testiranje modela v klinični praksi, kar počnemo trenutno. Za to potrebujemo dovoljenja, ki smo jih podpisali z bolnišnicami. V praksi imamo dve možnosti. Algoritem lahko prenesemo na strežnike bolnišnice. To se zgodi v primerih, ko podatki ne smejo zapustiti njihovih strežnikov bolnišnice. V določenih primerih, še posebej, ko gre za bolnišnice, ki so povezane z univerzo, pa lahko dostopamo do podatkov.

Sprva smo sicer delali brez dostopa do občutljivih podatkov o pacientih. In sicer tako, da smo uporabili ameriško bazo, ki beleži stranske učinke zdravil, o katerih poročajo pacienti.

To je velika baza za celotne ZDA, zanimiva zaradi svoje obsežnosti, pokriva namreč vsa zdravila, ki so trenutno potrjena na ameriškem trgu in tudi vse bolezni, za katere trenutno tam obstaja zdravljenje. So pa podatki agregirani v smislu, da ne vemo identitete posameznika, na katerega se podatek nanaša, ampak zgolj, kolikšen delež pacientov z določeno boleznijo jemlje določena zdravila in ima določen stranski učinek.

To je zadostovalo za prvi model, ki smo ga razvili. Dali smo mu na voljo vse razpoložljive podatke do recimo leta 2015. Uporabilo se jih je za izgradnjo napovednega modela. Ta napovedni model nato uporabimo za napovedi, vidimo, katere so najbolj verjetne in preverimo, koliko je bilo potrjenih med leti 2015 in 2018. Simulirali smo torej prihodnost s podatki iz preteklosti. In ugotovili, da smo bili pri tem kar uspešni, kar nas je vodilo v to, da smo poiskali partnerstva z bolnišnicami, kar nam zdaj omogoča dejansko praktično testiranje.

Konkreten primer -  na Stanfordu smo začeli študijo, kjer se ukvarjamo z rakom na prostati. Analiziramo podatke 16.000 pacientov, ki imajo raka prostate in so zdravljeni v stanfordskih bolnišnicah. Za te paciente imamo njihovo celotno zgodovino in tudi vemo, kakšen je njihov trenutni status, njihovo trenutno zdravstveno stanje. Zanima nas, ali pacient  še živi oziroma koliko časa po primarni terapiji je še živel. To je osnovno merilo uspešnosti algoritma, če lahko uspešno napove oziroma identificira terapijo, ki bo optimalno zdrava, da bo pacient živel čim dlje in čim bolj kvalitetno, torej s čim manj stranskimi učinki in dodatno predpisanimi zdravili.

Se tekom raziskovanja odpirajo nova vprašanja?

Veliko novih vprašanj. Med zanimivejšimi je smer personalizacije, kjer želimo narediti neke priporočilne sisteme, ki bi na osnovi pacienta, celotne njegove zgodovine, res predlagali najboljšo terapijo, ki jo ne bi nujno sestavljala samo zdravila, ampak  tudi druge vrste zdravstvenih terapij.

Ravno zato, ker je človek živ organizem, tako kompleksen, vidik personalizacije  omogoča, da se razišče podatke o pacientu z različnih vidikov, od laboratorijskih raziskav, do zapiskov zdravnika, seznama operativnih posegov, podatkov o boleznih sorodnikov ... Personalizirana medicina si želi vse te podatke obravnavati in potem oceniti, kaj je v danem trenutku za konkretnega pacienta najboljša rešitev. To najbolje matematično opišemo s kriterijsko funkcijo, ki optimizira nek vidik. Na primer čim daljše življenje ali čim boljšo kakovost življenja. Možnosti za razširitev algoritma je veliko. Sama sem nad tem področjem izjemno navdušena.

Torej eno od smeri, kamor bo šla medicina, vidite v večji personalizaciji?

Zdi se zelo naravno, da bi šli v to smer. In trenutno smo v času, ko so nam na voljo podatki človeku, ki na prvi pogled sploh niso zdravstveni, ampak veliko povedo o človekovem življenju. In ti algoritmi so velika priložnost, da se odkrije neke hipoteze, odpre morebitno zanimiva vprašanja. Iz poplave podatkov lahko algoritem spravi na površje tisto o pacientu, kar najbolj odstopa, je zanimivo, zdravnik pa nato odloči, ali bo to upošteval ali ne. Namreč, če ima pacient na voljo nekaj minut z zdravnikom, bo ta težko obravnaval vse možnosti, se pogovoril o zdravstveni zgodovini pacienta, sorodnikov, o tem, s kakšnimi popoldanskimi aktivnostmi se ukvarja, se mu morda zdi, da počasneje teče, tipka ... Po drugi strani pa lahko algoritem hitro pride čez vse te podatke in zdravniku vnaprej označi najbolj zanimive spremembe, potem pa zdravnik odloči, ali gre za nekaj, kar ga zanima podrobneje preveriti ali je morda zgolj nek šum v podatkih.

Na drugi strani pa vsi ti podatki in uvajanje algoritmov najbrž odpirajo tudi številna vprašanja ...

Seveda. Kje so ti podatki shranjeni, kdo je lastnik teh podatkov, kaj se počne z njimi ... Če algoritme razvijajo raziskovalci na nekih univerzah, morda njihov primarni interes ni dobiček in to je precej drugače, kot če algoritem razvija velika industrija, kjer so interesi drugačni.

Potem je tu veliko vprašanje certifikacije algoritmov. Recimo pred časom, kakšen mesec nazaj, sem se pogovarjala s predstavniki FDA, ameriške regulatorne organizacije za zdravila, in trenutno je odprto zelo veliko vprašanje, kako bomo validirali algoritme. V Ameriki so novembra potrdili prvo digitalno zdravilo, ki ima dve komponenti. Tableto in obliž, ki ima elektronske komponente, in to nam omogoči, da se zdravilo sprošča v pravem trenutku za pacienta.

V tem obližu je nek algoritem, ampak nekdo bo ta algoritem prej ali slej posodobil. Tu pa se odprejo številna vprašanja. Namreč, kaj se zgodi po posodobitvi? Je to novo zdravilo – če je novo zdravilo, mora od začetka čez vse klinične teste, kar je drago in dolgotrajno, po drugi strani pa, če rečemo, da ni novo zdravilo, ostaja dejstvo, da ima nova verzija lahko nove hrošče. Nekaj podobnega kot Facebook, ki po kakšni posodobitvi ne dela več. Ampak to je samo aplikacija za družbeno omrežje. Če pa gre za nekaj, kar lahko vpliva celo na življenje ali smrt posameznika, pa je na kocki povsem nekaj drugega.

Naslednji scenarij. Nekdo se odloči, da bo malo spremenil parametre. Kako naj se FDA prepriča, da algoritem še vedno deluje oziroma na način, kot je deloval pred nekaj meseci? In v tem kontekstu je veliko vprašanje, kako sploh organizirati postopke kliničnih testov ne več le za kemikalije, ampak za digitalna zdravila. To je velik izziv, za katerega pa še ni jasno, kako se bo rešil, se pa pomikamo v čas, ko bodo ti algoritmi postali uporabljani v stalni praksi, zato bo te odgovore in postopke verifikacije nujno najti.  

Kateri pomisleki se v zvezi s tehnologijo, ki jo razvijate, porajajo vam osebno?

Sama sem zelo optimistična, na algoritme gledam kot nekaj pozitivnega ob pravilni uporabi – če so torej dobro zasnovani in dobro delujejo, so pomembno orodje za zdravnike. In lahko kvečjemu pomagajo.

Težava se lahko pojavi, če so vhodni podatki na nek način pristranski. Ali pa je nekdo namenoma z njimi manipuliral, da bi prikazal, da je določena vrsta terapije zdrava, primerna za paciente, pa v resnici ni.

Tega, da je nekdo zlonamerno spremenil podatke, algoritem ne bo opazil, in to lahko potem povzroči, da algoritem dela napovedi, ki so koristne za nekega zlonamerneža in je to problem, ker so lahko posledice hude za življenje posameznika.

Kako se pred tem zaščititi? Trenutno to počnemo tako, da izvajamo veliko manjših testov, ki na prvi pogled niso zelo zanimivi, so pa zelo pomembni, saj pokažejo anomalije. Izredna občutljivost algoritma na določen šum, v smislu, da se z majhnimi spremembami vhodnih podatkov zelo spremenijo napovedi, nakazuje neprimerno obnašanje algoritma, kar  je treba nasloviti.

Kakšen je odziv zdravnikov?

Veliko je zanimanja, navdušeni so nad novimi tehnikami, ki lahko olajšajo njihovo delo, so pa tudi zelo previdni, previdni v smislu, da želijo najprej razumeti, kako algoritem deluje, ker je to pomembno, da vedo, kako bi ga lahko uporabljali. Postavljajo pomembna vprašanja. Kaj se zgodi, ko se podatki spremenijo, kateri so tisti primeri, ko algoritem ni primeren za uporabo, kako lahko to vemo vnaprej ... Vse to so zanimiva vprašanje.

Zgodi pa se nam tudi, da model generira določene napovedi, ki so zanimive za razvoj novih terapij zdravljenja. V teh primerih pogosto dobimo vprašanje, zakaj bi nekdo sedaj investiral veliko denarja in raziskovalcev v naslednjih letih, da bi gradil na teh napovedih. Oziroma – zakaj algoritem misli, da bo imela določena kemikalija pozitiven učinek na določeno bolezen.

Računalničarji se zato sprašujemo, kako narediti te algoritme odprte. Trenutno se uporablja veliko nevronskih mrež, tako imenovani black-box modeli, ki so zelo točni, a je zelo težko povedati, kateri del podatkov je ključen pri generiranju določene napovedi. A prav to je pomembno, če hočemo vzeti neko napoved in iz nje nekaj narediti.

Vprašanje, ki si ga torej računalničarji zastavljamo, je, kako black-box modele narediti bolj transparentne, da bodo to modeli, ki jih lahko odpremo, pokažemo, zakaj točno je prišlo do določene napovedi. Če lahko napoved osmislimo, ji dodamo razlago, je to za zdravnike pa tudi raziskovalce, ki želijo te napovedi uporabljati, v veliko pomoč. Še posebej za področja, kot je medicina, ko je na kocki veliko, je pomembno, da ne gre za napovedi same po sebi, ampak so za njimi jasne razlage. Gre namreč na napovedi, ki lahko odločajo med življenjem in smrtjo, ne za vprašanje ali se bo aplikacija odprla pet sekund kasneje in bomo zaradi tega slabe volje.

Vaše delo trči tudi ob farmacevtsko industrijo. Kakšen je odziv tam?

Farmacijo predvsem zanima en zelo poseben vidik – repozicioniranje zdravil. Gre za vprašanje ali je mogoče zdravilo, ki je že na trgu, ki je bilo razvito z namenom, da zdravi neko bolezen, uporabiti še za neko drugo bolezen. Iz preteklosti že imamo nekaj takšnih primerov. Na primer zdravilo, ki je bilo v petdesetih letih razvito za pomoč pri slabosti, pa se je izkazalo učinkovito za gobavost. Takšno repozicionirano zdravilo je tudi viagra, njen prvotni namen je bil povsem drugačen. Ampak takšna odkritja so se dogajala po naključju. Z algoritmi pa lahko to naključnost sistematiziramo.

Zakaj je zaželeno in najbolj enostavno, da se neko zdravilo repozicionira, je jasno. Da pridete od nič do novega zdravila, traja več kot desetletje, postopek lahko stane milijarde dolarjev. Pri repozicioniranju pa gre vse skupaj hitreje, saj gre za zdravilo, ki je že preverjeno. In se le razširi njegova uporabnost.

Kje pa je treba umetni inteligenci postaviti mejo?

Veliko je predstav o zlih robotih, ki bodo prevzeli naše življenje in si podredili ljudi. Zaenkrat smo še precej daleč od tega, od ozaveščenosti robotov, če bomo tja sploh prišli. Vsi ti algoritmi, ki jih imamo, ne samo na področju medicine, ampak na splošno, rabijo ogromne količine podatkov. O njih se v zadnjih letih govori, ker smo prišli do obdobja, ko je na veliko področjih življenja mogoče generirati res veliko podatkov. Teh podatkov je naenkrat toliko, da jih posameznik ne more več pogledati in analizirati v neki tabeli, zato je prišlo do razcveta teh algoritmov, ki pa so natrenirani za reševanje zelo specifičnega vprašanja.

Algoritem, ki ve, ali je neka kombinacija zdravil za pacienta varna, ni sposoben odgovoriti na vprašanje, ali bo jutri na Triglavu snežilo ali kako visok je Triglav.

Od današnje stopnje razvoja do trenutka, ko bi umetna inteligenca odločala o nas, je še zelo daleč. Moramo pa biti previdni. In tukaj je odgovornost tudi na tistih, ki umetno inteligenco razvijajo, in tistih, ki jo uporabljajo. Jaz umetno inteligenco vidim kot orodje za moderne znanosti, ki so podatkovno intenzivne. Podobno kot v 17. stoletju, ko so izumili mikroskop in je to prineslo revolucijo v znanosti. Mikroskop je bilo orodje, ki je omogočilo preboj, še vedno pa končne odločitve sprejemajo ljudje. Odgovornost ostaja na ljudeh, se pa poraja veliko pravnih, etičnih vprašanj o tem, kakšne spremembe bodo potrebne tudi v zakonodaji, ki za ta področja nikoli ni bila pisana, možnosti zlorabe namreč niso nikoli izključene.