Sve češće otvaramo chatbot umjesto da se obratimo liječniku. Koje su prednosti, a koji rizici takve prakse pitali smo jednog informatičkog i jednog medicinskog stručnjaka.
Početkom ove godine popularni jezični modeli lansirali su posebne module posvećene zdravlju – ChatGPT Health i Claude for Healthcare. Ti specijalizirani moduli omogućuju povezivanje medicinskih zapisa i wellness aplikacija kako bi odgovori na zdravstvena pitanja bili personaliziraniji i kvalitetniji. Odraz je to sve češće komunikacije korisnika s chatbotima o zdravstvenim pitanjima.
Uostalom, zašto ne pitati AI za mišljenje o zdravstvenim temama? Chatbot ima vremena za nas, bazu znanja, ljubazan je, omogućuje privatnost… Krije li se u takvim razgovorima opasnost i što o AI pomoćnicima u zdravstvu misle ispričali su nam Juraj Malenica, voditelj inženjerskog tima Mindsmithsa, i liječnik Natko Beck, voditelj Odjela za dijagnostičku radiologiju u Dječjoj bolnici Srebrnjak.
AI asistent svakome treba
Juraj, kojega smo pozvali u ovaj razgovor jer ima iskustvo kreiranja jednog takvog proizvoda, odmah napominje da izraz chatbot nije najbolji izbor kad se govori o umjetnoj inteligenciji u zdravstvu:
On zvuči kao nešto ograničeno na dopisivanje i mnoge podsjeća na naporne pop-upove na webu ili automatiziranu korisničku podršku koju pokušavamo izbjeći. Prikladnije je govoriti o AI asistentima. Asistenti nisu samo sugovornici, oni pomažu, pamte kontekst i predviđaju potrebe, slično kao pouzdani asistenti iz filmova i serija.
Objašnjava da bi u idealnom slučaju svatko imao svog osobnog asistenta koji bi nam, primjerice, pomogao odlučiti trebamo li se javiti liječniku zbog madeža koji nas brine, smiriti nas kad čitamo zastrašujuće nuspojave lijekova, podsjetiti nas da izmjerimo tlak ili redovito uzmemo terapiju. Najveću vrijednost AI asistenata vidi u prevenciji:
Ako nas sustav dobro poznaje i prati naše zdravlje kroz vrijeme, može nas na vrijeme upozoriti kada je pametno otići na pregled, kada neke vrijednosti upućuju na problem ili kada bismo trebali promijeniti navike, prije nego što se bolest uopće razvije.
Prednosti AI-ja u zdravstvu
Natko priznaje da je bio veliki protivnik ispitivanja tražilica o simptomima, odnosno guglanja simptoma, ali je entuzijast što se tiče korištenja umjetne inteligencije u mnoge svrhe:
Najveće prednosti su dostupnost i cijena te mogućnost da objasni stvari vrlo jednostavnim jezikom. Vjerojatno najvažniji plus je da će se ljudi uopće obratiti nekome, što inače ne bi učinili zbog npr. straha ili srama, recimo kod problema vezanih za spolne bolesti i organe.
Dodaje da je AI sjajan i u pripremi za pregled jer nam može dati pitanja za liječnika kojih se možda ne bismo sami sjetili.
Juraj također među najvećim prednostima izdvaja dostupnost:
AI asistent može biti dostupan 24 sata dnevno, bez čekanja i naručivanja, što je posebno važno za ljude koji žive daleko od zdravstvenih ustanova ili teško dolaze do liječnika. On može pružiti osnovne informacije, smanjiti nesigurnost i pomoći ljudima da se lakše snađu u zdravstvenom sustavu.
Međutim, i kod dostupnosti postoje izazovi, napominje Natko. Nisu svi ljudi dovoljno tehnološki pismeni, čak ni da koriste WhatsApp s chatbotom.
Ozbiljna ograničenja
Spominje i već klasične boljke ovih alata kao što su haluciniranje i podilaženje korisniku, zbog čega treba biti vrlo oprezan. Natko kaže kako je ono najgore, s najvećom mogućom reperkusijom na zdravlje, da čovjek bude previše zabrinut ili dobije lažni osjećaj sigurnosti. No, to je bilo puno opasnije kod tražilica nego kod ovih novih AI modela s kojima razgovaramo, ističe.
Također, upozorava da umjetna inteligencija ne služi za razgovore o nekom akutnom i hitnom stanju, kaže da bi bilo tragično da čovjek razgovara s AI umjesto da zove hitnu, a ima, primjerice, infarkt.
Loše znanje, loše odluke
Juraj također smatra da je jedan od najvećih rizika pogrešna ili pogrešno shvaćena informacija:
Ako AI daje savjete bez jasnog naglašavanja svojih ograničenja, korisnici bi mogli donijeti loše odluke ili odgoditi odlazak liječniku kada je to zapravo nužno.
Podsjeća da se ovi asistenti treniraju na medicinskoj literaturi koja je kompleksna te često neujednačena i zastarjela. Osim toga, da bi bili korisniji, ovi alati trebali bi imati ažuran i cjelovit uvid u zdravstvene podatke pojedinca, što zbog zaštite privatnosti i drugih razloga nije moguće. Stoga im je doseg ograničen, kaže voditelj inženjerskog tima u Mindsmithsu:
Zbog velikog broja rubnih slučajeva i nejasnih situacija, AI asistenti moraju se ograničiti na savjetodavnu ulogu, da pomažu u razumijevanju konteksta i mogućnosti, ali ne donose konačne odluke.
Dakle, mi pacijenti ne bismo trebali od AI-ja tražiti dijagnozu i terapiju, što je i Natkov čvrsti stav.
Chatbot ne može ‘osjetiti’ čovjeka
Popularni liječnik koji ima i vlastitu televizijsku emisiju na HRT-u priznaje da postoje situacije u kojima AI liječnicima može pomoći:
Osobno sam to testirao recimo za bolnost Ahilove tetive, bolne trigger točke u ramenima, ukočen vrat i slična stanja. Tu je vrlo uspješno položio i dijagnostički test i pomaže s postavljanjem protokola vježbi te jasno govori kad treba ići liječniku.
Ono što moramo uvijek razumjeti je da odgovor ne mora uvijek biti točan, no tako je i s ljudima.
Uvjeren je da će takvi sustavi s vremenom postati bolji, ali i naglašava da će uvijek ostati pitanje odgovornosti u slučaju da AI promaši dijagnozu i terapiju te slučajevi kad je pregled odlučujuća stavka u postavljanju dijagnoze, a to je, kaže Natko, gotovo uvijek:
Chatbotovi ne mogu pregledati čovjeka, ne mogu “osjetiti” čovjeka, što je jako važno za postavljanje bilo kakve dijagnoze. To je osnova svakog medicinskog pregleda.
Obojica sugovornika slažu se da AI ima velik potencijal u olakšavanju popratnog posla liječnicima. Juraj kaže:
Preuzimanjem administrativnih i rutinskih zadataka AI asistenti liječnicima i medicinskom osoblju ostavljaju više vremena za pacijente, složenije slučajeve i donošenje odluka koje zahtijevaju ljudsko iskustvo i empatiju.
Tehnologije su odavno u medicini
Natko podsjeća da je umjetna inteligencija u zdravstvu odavno jer se umjetna inteligencija u dijagnostici koristi već dugo, puno duže nego što su jezični modeli u upotrebi. Napominje kako su machine learning, deep learning i računalni vid integrirani u razne aparate, a možda ni liječnici koji ih koriste ne znaju da su “unutra”:
U radiologiji nam na MSCT snimci sumnjive čvorove pronalazi AI, kod moždanog udara nam AI određuje broj živčanih stanica koje možemo oživjeti zahvatom, u oftalmologiji i dermatologiji integriran je u dijagnostičke aparate…
Dodaje da AI primjenu nema samo u dijagnostici, već, primjerice, u modernim aparatima za šećernu bolest gdje se koriste algoritmi koji mjere razinu glukoze te određuju koliko inzulina će automatizirana pumpica isporučiti u krv.
Emotikoni cvijeća za AI asistenta
Zanimljivo i za ovu temu vrlo relevantno iskustvo ima Juraj. Naime, on je još prije pojave ChatGPT-ja radio na razvoju AI asistenta za kontrolu krvnog tlaka koji nije samo evidentirao mjerenja, nego i vodio brigu o tome jesu li vrijednosti unutar očekivanih granica, u kojem su se kontekstu pojavile problematične vrijednosti i kada je potrebno reagirati.
U takvim slučajevima podaci su se prosljeđivali liječniku za određivanje sljedećeg najboljeg koraka. Liječnici su time dobivali jasan, strukturiran i kontekstualiziran pregled zdravstvenog stanja pacijenata, a pacijentima je sustav pružao osjećaj sigurnosti i smirenosti, jer su znali da ne moraju stalno sami procjenjivati jesu li njihove vrijednosti zabrinjavajuće.
Megi, hrvatski chatbot za praćenje krvnog tlaka, predstavljen nakon testiranja na 74 pacijenta
Juraj kaže da mu je to iskustvo donijelo vrlo vrijedne uvide:
Prije svega, potvrdio je nešto što često zaboravljamo kad razvijamo tehnološka rješenja: ljudi nisu isključivo racionalna bića, nego duboko emocionalna. Iako na tržištu postoji velik broj aplikacija za praćenje krvnog tlaka, mnogi pacijenti i dalje koriste olovku i papir.
No našeg su asistenta prihvatili na sasvim drugačiji način. Cijenili su ga, povjeravali mu se, slali emotikone cvijeća, fotografije s unucima.
U njihovim očima to nije bio chatbot koji bilježi brojke, nego prijatelj koji brine o njihovu zdravlju, netko tko će im iskreno reći ako nešto nije u redu i uputiti ih što dalje. Izgradio se odnos, iako je većina komunikacije bila naizgled monotona i ponavljajuća, kaže Juraj.
Priča i kako je, u razvoju algoritma za procjenu „valjanosti“ vrijednosti krvnog tlaka, shvatio koliko je medicina složeno i teško formalizirano područje:
U igri su tri brojke: sistolički tlak (gornja vrijednost), dijastolički tlak (donja vrijednost) i puls. Idealne vrijednosti često se navode kao oko 120/80 uz puls od 60. Tijekom projekta susretali smo se s nevjerojatno širokim rasponom mjerenja, od izrazito visokih vrijednosti do onih koje su bile neuobičajeno niske ili međusobno vrlo bliske.
Inženjer u meni stalno je tražio jasan algoritam, skup pravila kojim bi se moglo pouzdano reći je li neko mjerenje „ispravno“ ili ne.
No povratna informacija kardiologa bila je poražavajuće jednostavna: jedino što sa sigurnošću znamo jest da gornji tlak ne smije biti niži od donjeg, jer u tom slučaju osoba više nije živa. Sve ostalo je prekontekstualno. Nije postojala jasna minimalna ili maksimalna granica ni univerzalni odnos između vrijednosti.
Međutim, najemotivnija lekcija bila mu je spoznaja koliko je težak teret odgovornosti kada se netko osloni na asistenta za ozbiljan savjet vezan uz vlastito zdravlje. Priča da nitko od njih nije mogao spavati kad su prvi put dobili odgovor „ova osoba mora ići na hitnu“, što je situacija s kojom su se liječnici naučili nositi.
I botovi će morati na specijalizaciju
Natka smo pitali odakle toliko povjerenje ljudi u tehnologiju kad je zdravlje u pitanju. I ovaj odgovor bio je poražavajuće jednostavan:
Kao laici imamo onu sliku “bezgrešne visoko napredne tehnologije”, no to je naravno krivo jer nismo dovoljno upoznati s time kako ti modeli rade. S druge strane imamo povjerenje prema sustavu, gdje na raznim razinama “šteka”, pa se lakše okrenemo nekom drugom sustavu koji ima više vremena i empatije, a tako se čini AI u tom trenutku.
Kako će se AI asistenti u zdravstvu dalje razvijati, zanimalo nas je.
Natko je optimističan čak i u pogledu „državnih“ aplikacija Zdravko i Gina:
Kako god ovi proizvodi sad izgledali, njihova uloga bit će sve značajnija jer će olakšati komunikaciju i vjerojatno skratiti procese. Mogućnosti su ovdje zaista brojne, ali je važno da se uvede kontrola procesa i programa, da zaštita podataka bude na razini i da ti proizvodi budu na razini koja je potrebna.
Juraj najavljuje specijalizaciju ovih alata, kaže da ćemo umjesto univerzalnih „medicinskih chatbotova“ vidjeti rast rješenja fokusiranih na vrlo specifične probleme: kronične bolesti, administrativno opterećenje liječnika, pripremu pacijenata za preglede, praćenje terapije ili komunikaciju između pacijenta i zdravstvenog sustava.
Zaključio je i što će po njegovom mišljenju biti ključno:
Pobjednici na tržištu neće biti oni koji imaju najnapredniji model, nego oni koji uspiju izgraditi povjerenje, dugoročan odnos s korisnicima i osjećaj da je tehnologija tu kako bi skinula teret, a ne dodala novu složenost.
