Akým výzvam čelí umelá inteligencia v medicíne

O tom ako Watson Health ukázal na výzvy, ktorým čelí umelá inteligencia v medicíne.

Vypočujte si podcast

Počúvajte cez >> Apple podcasty | Spotify | Google podcasty | RSS

Umelá inteligencia má potenciál zásadným spôsobom ovplyvniť ľudstvo a zmeniť spoločnosť. Táto technológia môže zásadným spôsobom ovplyvniť oblasti ako je doprava, logistika, finančný sektor a, v neposlednom rade, aj medicína. Oblasť medicíny však predstavuje pre umelú inteligenciu ťažký oriešok z mnohých dôvodov.

Zistila to aj spoločnosť IBM, jedna z najznámejších a najstarších spoločností zo svete softvéru a hardvéru, ktorá v súčasnosti hľadá kupcu pre medicínsku divíziu svojho systému Watson využívajúceho umelú inteligenciu pri diagnostike a liečbe pacientov.

Dnes sa budeme rozprávať o tom, prečo sa zdravotníctvo ukázalo takou výzvou pre Watson Health a aké dôsledky to má pre využitie umelej inteligencie v zdravotníctve.

Začiatok: Watson v televíznej súťaži

Odvážny pokus spoločnosti IBM o revolúciu v zdravotníctve sa začal v roku 2011. Práve vtedy spoločnosť predstavila Watson, systém umelej inteligencie, ktorý dokázal využiť metódy z oblasti umelej inteligencie na spracovanie prirodzeného jazyka na to, aby porazil dvoch ľudských šampiónov v americkej televíznej hre Jeopardy!

V tejto hre si súťažiaci vyberajú rôzne úlohy opísané vo forme odpovedí a musia formulovať zodpovedajúce otázky. Typická súťažná otázka by mohla byť: Ak by napríklad súťažiaci vybral možnosť „Prezidenti za 200 dolárov“, výslednou indíciou by mohlo byť „Tento prezident zomrel niekoľko dní po ukončení vojny“, na čo je správna odpoveď „Kto je / bol Abraham Lincoln?"

Watson založil svoje odpovede na obsahu miliónov kníh, slovníkov a encyklopédií. Optimizačné algoritmy Watsonovi umožnili naučiť sa jedinečnú štruktúru otázok súťaže Jeopardy z predchádzajúcich príkladov a systém vyvinul spôsob, ako zodpovedať nové otázky za zlomok sekundy.

Programátori učili túto umelú inteligenciu nielen hľadať kľúčové slová v obsahu, ale tiež analyzovať a dešifrovať vety okolo týchto kľúčových slov. Watson tak dokázal krížovými odkazmi prehľadať rôzne zdroje a zistiť, že anglický výraz „tea“ neznamená iba čaj, ale aj typ oblečenia zo 40. rokov 20. storočia (a zodpovedať tak otázku za 800 USD).

Ak však moderátor položil otázku neočakávaným spôsobom, teda použil vetnú skladbu, ktorú programátori nepredpokladali, Watson tápal. Watsonova neznalosť konverzačného kontextu, ktorým ľudia prirodzene disponujú, tiež spôsobila, že niektoré otázky boli pre neho takmer nedešifrovateľné. Napriek tomu však IBM považovalo Watson za fantastický úspech a rozhodlo sa, že svoj systém, ktorý mal dokázať odpovedať na otázky položené v prirodzenom jazyku skúsi využiť v mnohých oblastiach života. A jednou z kľúčových oblastí sa mala stať práve medicína.

“Superdoktor” Watson

Dávno predtým, ako sa Watson stal hviezdou televíznej šou, IBM zvažovala jeho využitie v zdravotníctve.

Medicína so svojimi hromadami údajov o pacientoch sa javila ako mimoriadne sľubný sektor, najmä vďaka tomu, že vo vyspelých krajinách nemocnice a lekári prešli na elektronické zdravotné záznamy. Niektoré z medicínskych údajov je možné relatívne ľahko spracovať pomocou strojov, napríklad laboratórne výsledky a merania vitálnych funkcií, teda všetky podobné, “štruktúrované” dáta.

Podstatnou časťou medicíny sú však „neštruktúrované“ informácie, ako sú napríklad poznámky lekára a prepúšťacie správy z nemocníc. Takýto text v prirodzenom jazyku predstavuje asi 80 percent záznamu typického pacienta - a je to guláš lekárskeho žargónu, skratiek a subjektívnych pojmov.

IBM plánovalo využiť Watsonove schopnosti v spracovaní prirodzeného jazyka na zber a využitie neskutočného množstva informácií. Watson mal byť schopný prečítať zdravotné záznamy pacientov, ako aj odbornú lekársku literatúru: učebnice, recenzované články v časopisoch, zoznamy schválených liekov a iné dáta.

Vďaka prístupu k všetkým týmto údajom by sa z Watsona mohol stať superdoktor, ktorý by rozlišoval v dátach vzory, ktoré by nikdy žiadny človek nedokázal rozpoznať. Inžinieri z IBM dúfali, že systém bude fungovať ako poradca lekárov, ktorí sú jednoducho príliš zaneprázdnení svojou prácou a nemôžu sledovať všetky nové poznatky v svojich medicínskych odvetviach. Lekár by teda mohol poskytnúť Watsonovi anamnézu pacienta a požiadať ho o diagnózu alebo optimalizované nastavenie liečby.

Problémy a výzvy

V snahe aplikovať umelú inteligenciu v klinickej praxi sa spoločnosť IBM postavila pred obrovskú technickú výzvu. Ale IBM zaostávala za technologickými gigantmi ako Google a Apple v mnohých ďalších sférach softvérových technológií. Potrebovala niečo veľké, aby zostala v sektore technológií skutočne relevantná.

V roku 2014 IBM investovalo 1 miliardu dolárov do svojej divíze Watsonu, ktorá vyvíjala technológie pre rôzne obchodné odvetvia. A následne, v roku 2015 spoločnosť IBM oznámila vytvorenie špeciálnej divízie Watson Health. Do polovice roku 2016 kúpil Watson Health štyri spoločnosti poskytujúce údaje o zdravotnom stave a dátach dohromady za asi 4 miliardy dolárov.

Zdá sa, že IBM mala technológiu, zdroje a odhodlanie potrebné na to, aby umožnilo umelej inteligencii ukázať svoj potenciál v zdravotníctve.

Watson sa však v klinickej praxi začal potýkať s problémami. V mnohých prípadoch Watsonov algoritmus nedokázal porozumieť lekárskemu textu - rovnako ako mnoho iných systémov umelej inteligencie.

Ako hovorí Yoshua Bengio, profesor počítačovej vedy na univerzite v Montreale a popredný výskumník umelej inteligencie: „S NLP sa nám darí neuveriteľne lepšie ako pred piatimi rokmi, stále sme však neuveriteľne horší ako ľudia.“ Systémy AI nedokážu pochopiť nejednoznačnosť a nezachytávajú jemné stopy, ktoré by si ľudský lekár všimol. Bengio tvrdí, že súčasná technológia NLP môže pomôcť systému zdravotnej starostlivosti. Žiadna doteraz vyrobená AI sa však podľa neho nevyrovná zatiaľ nevyrovná pochopeniu a vhľadu ľudského lekára.

Watson a rakovina

Práca IBM v oblasti rakoviny slúži ako hlavný príklad výziev, ktorým spoločnosť čelila. Snaha o zlepšenie starostlivosti o pacientov s rakovinou mala dva hlavné smery. Špičkoví lekári natrénovali systém AI, ktorý sa v roku 2015 stal produktom s názvom Watson for Oncology. Lekári z Andersonovho centra pre rakovinu v Houstone spolupracovali s IBM na vytvorení iného nástroja s názvom Oncology Expert Advisor, teda Odborný onkologický poradca.

Obidve snahy boli ostro kritizované. Jeden článok o Watson for Oncology tvrdil, že poskytoval zbytočné a niekedy nebezpečné odporúčania, aj keď IBM tieto tvrdenia spochybňuje. A projekt vedený Andersonovým centrom tiež nebol úspešný: centrum pre rakovinu vynaložilo na projekt 62 miliónov dolárov pred jeho zrušením. Hlbší pohľad na tieto dva projekty odhaľuje zásadný nesúlad medzi prísľubom strojového učenia a realitou lekárskej starostlivosti - medzi „skutočnou AI“ a požiadavkami na funkčný produkt pre lekárov.

Algoritmus systému Watson for Oncology sa mal trénovať prostredníctvom spracovávania rozsiahlej lekárskej literatúry o rakovine a zdravotných záznamov skutočných pacientov s rakovinou. IBM dúfalo, že systém so svojou mohutnou výpočtovou silou preskúma stovky premenných v týchto záznamoch - vrátane demografických údajov, charakteristík nádorov, liečby a výsledkov - a objaví pre človeka neviditeľné vzorce. Inžinieri boli presvedčení, že Watson bude môcť držať krok s množstvom časopisových článkov o liečbe rakoviny, ktoré vychádzajú každý deň.

Watson sa pomerne rýchlo naučil, ako skenovať články o klinických štúdiách a určovať základné výsledky. Ukázalo sa však nemožné naučiť Watsona čítať články tak, ako to robí lekár. Jeho “uvažovanie” bolo odlišné od uvažovania lekárov, ktorí sa často sústredili na to, ako daná štúdia zmení ich klinickú starostlivosť o pacienta, čo nebolo vždy hlavným bodom štúdie, ktorý si “odniesol” Watson.

Napríklad v roku 2018 FDA schválila nové liečivo na rakovinu, ktoré je účinné proti všetkým nádorom, ktoré vykazujú špecifickú genetickú mutáciu. Liek bol výnimočne rýchlo schválený regulátormi na základe výsledkov iba u 55 pacientov, z ktorých štyria mali rakovinu pľúc - a každý pacient s rakovinou pľúc by dnes podľa odporúčaní lekárov mal byť testovaný na prítomnosť tohto génu. Pre Watson však bolo nemožné zmeniť svoje klinické odporúčania len na základe výsledkov štyroch pacientov. Experti preto museli vytvoriť “syntetické prípady” na základe ktorých by sa tento systém umelej inteligencie mohol učiť, čo vytváralo ďalšiu prácu.

Keď záznamy nie sú úhľadné

Medzitým vedci z Andersonovho centra skúmali výkon IBM Watson na zdravotných záznamoch pacientov s leukémiou - a čoskoro zistili, aké náročné bolo s týmito záznamami pracovať. Môžu v nich totiž chýbať údaje, môžu byť zapísané dvojzmyselne alebo mimo časovej postupnosti.

Pri získavaní informácií z lekárskych záznamov mal Watson skóre presnosti v rozmedzí od 90 do 96 percent v prípade jasných konceptov akými boli diagnózy, ale skóre iba 63 až 65 percent pre časovo závislé informácie, ako sú časové závislosti liečby, ktoré sú však často kľúčové pre klinické rozhodovanie.

Onkológovia pri navrhovaní stratégie pre nového pacienta čerpajú zo svojich skúseností s pacientmi, liečby a výsledkov. Vedci dúfali, že Watson by mohol vykonávať rovnaký typ populačnej analýzy - dôslednejšie a s použitím ďalších tisícov pacientov, by bol mimoriadne silný. Súčasné štandardy systému zdravotnej starostlivosti však takéto strojové učenie v reálnom svete nepodporujú.

Ak by systém umelej inteligencie vychádzal z poznatkov získaných v lekárskych záznamoch - napríklad to, že určitý typ pacientov má lepšie výsledky v súvislosti s určitým liekom - jeho odporúčania by sa nepovažovali za založené na dôkazoch, alebo “evidence-based”. Bez vedeckých štúdií by sa takýto nález považoval iba za koreláciu, nie za príčinnú súvislosť, čo znižuje využiteľnosť systému.

Prístup lekárov

Podľa niektorých zdrojov mala spoločnosť IBM problém s nájdením kupujúcich pre Watson for Oncology v Spojených Štátoch. Niektorí onkológovia tvrdili, že veria vlastnému úsudku a nepotrebujú, aby im Watson hovoril, čo majú robiť.

Iní hovorili, že navrhuje iba štandardné spôsoby liečby, o ktorých dobre vedia a teda je zbytočný. Našli sa však aj lekári, ktorí hovorili, že sa im zdá užitočný ako okamžitý druhý názor, o ktorý sa môžu podeliť s nervóznymi a zneistenými pacientmi. Obchodní zástupcovia spoločnosti IBM mali viac šťastia mimo USA, keď túto technológiu prijali nemocnice v Indii, Južnej Kórei, či v Thajsku.

V posledných niekoľkých rokoch začali tieto nemocnice publikovať štúdie o svojich skúsenostiach s Watsonom. Výsledky štúdií z Indie či Južnej Kórei dopadli pre Watson neslávne. Juhokórejskí lekári uviedli, že Watson si so staršími pacientmi počínal zle, nenavrhoval niektoré štandardné lieky a jeho kód obsahoval chybu, ktorá spôsobovala, že u niektorých pacientov s metastázujúcimi nádormi bolo odporúčané sledovanie namiesto agresívnej liečby.

Celkovo sa začínalo čoraz viac zdať, že Watson síce priniesol vlnu nadšenia, no pri liečbe rakoviny sa nepodarilo ukázať jeho výhody tvrdými dátami, ako napríklad veľkou klinickou štúdiou, kde by sa jasne ukázali zlepšené klinické výsledky veľkej skupiny pacientov a ušetrené finančné prostriedky v dôsledku využitia tohto systému.

Genetické dáta: záchrana Watsonovej reputácie?

Mohlo by sa zdať, že Watson je úplný omyl a predstavuje veľmi drahú, no neprofitabilnú a neužitočnú hračku pre firmu IBM. Jeho zdravotná divízia však prináša niekoľko úspešných príbehov - v určitých špecifických a kontrolovaných aplikáciách sa zdá, že Watson môže mať pridanú hodnotu - napríklad pri využití na analýzu genetických dát.

Nástroj Watson for Genomics používajú genetické laboratóriá, ktoré produkujú reporty pre onkológov: Ako vstup Watson vezme súbor, ktorý obsahuje zoznam genetických mutácií pacienta, a za niekoľko minút môže vytvoriť správu, ktorá obsahuje všetky relevantné lieky a klinické skúšky. Laboratóriá tak môžu pomôcť väčšiemu mnoźstvu pacientov.

Genetické informácie nie sú pre Watson takým náročným orieškom. Sú totiž prezentované v štruktúrovaných súboroch a nemajú žiadne nejasnosti - buď v genetickom kóde pacienta mutácia je, alebo tam nie je. Namiesto využívania algoritomov spracovávania prirodzeného jazyka na spracovávanie informácií z lekárskych záznamov systém tieto algoritmy využíva na prehľadávanie učebníc, článkov v časopisoch, či oznámení o klinických skúškach, kde vyhľadáva veľmi konkrétne frázy a výroky.

Partneri IBM na univerzite v Severnej Karolíne publikovali prvý príspevok o účinnosti Watsonu for Genomics v roku 2017. U 32 percent pacientov s rakovinou zaradených do tejto štúdie Watson spozoroval potenciálne dôležité mutácie, ktoré neboli identifikované pri kontrole ľuďmi. To z týchto pacientov urobilo dobrých kandidátov na nový liek alebo na nové klinické testy. Americké ministerstvo pre veteránov používa Watson na genomické reporty vo viac ako 70 nemocniciach po celej krajine pre všetky pevné nádory. Watson však nie je hlavným lekárskym odborníkom - je skôr hlavným lekárskym knihovníkom.

Väčšina lekárov by pravdepodobne bola potešená, že majú okamžite k dispozícii kvalitného knihovníka využívajúceho umelú inteligenciu. Ak im to IBM pôvodne sľúbilo, dnes by možno neboli sklamaní.

Po niekoľkých miliardách dolárov minutých na jeho budovanie a po desaťročí úsilia sa dnes IBM snaží predať svoj systém Watson Health. Nie je však jediným gigantom, ktorý sa v tejto oblasti popálil. DeepMind z materskej spoločnosti Alphabet Inc., ktorej patrí aj Google je firmou, ktorá vyvinula algoritmus hrajúci hru Go, ktorý v roku 2016 porazil človeka, čo vyvolalo obrovský ohlas. Táto firma neskôr spustila niekoľko iniciatív týkajúcich sa zdravotnej starostlivosti zameranej na chronické choroby. V posledných rokoch tiež stratil peniaze a narazil na obavy o súkromie v súvislosti so zhromažďovaním údajov o zdravotnom stave. A debata o súkromí a využití zdravotníckych dát si zaslúži samostatnú epizódu!

Verdikt nad umelou inteligenciou v Healthcare

Mohlo by sa zdať, že som skeptický voči využitiu metód strojového učenia a umelej inteligencie v zdravotníctve - no to v žiadnom prípade nie je pravda! Som racionálnym podporcom využitia strojového učenia v medicíne tam, kde to dáva zmysel.

Pred touto dávkou som sa rozprával s oxfordským kolegom, ktorý robí doktorát v klinických aplikáciách umelej inteligencie.

Zhodli sme sa na tom, že IBM Watson si pravdepodobne vybral príliš komplexný problém v nevhodnom čase. Umelá inteligencia v medicíne má však podľa mňa obrovský potenciál a úspešne ju môžeme využívať na rôzne špecifické úlohy v rôznych oblastiach. Týchto odvetví medicíny je mnoho: robotické operácie, spracovávanie obrazu, genetická analýza, patológia, podpora klinických rozhodnutí, virtuálna starostlivosť o pacienta, medicínska administratíva, či starostlivosť o duševné zdravie.

No, keď to preženiem, automatizované čítanie a racionálne vyhodnocovanie kostrbatých poznámok a divných skratiek používaných vaším obvodným lekárom na kúsok papiera v šialenom zhone medzi ne nepatrí.

Referencie

[1] Umelá inteligencia od A po Z: Watson

[2] How IBM Watson Overpromised and Underdelivered on AI Health Care - IEEE Spectrum.

[3] IBM Watson: Why Is Healthcare AI So Tough? (2021)

[4] IBM Reportedly Looking to Sell its Unprofitable Watson Health Business. (2021)

[5] Loper et al., Natural Language Processing with Python, 2009.

[6] Topol, Deep Medicine, 2019.

[7] Chang, Artificial Intelligence for Drug Development, Precision Medicine, and Healthcare, 2020.

Všetky podcasty denníka SME si môžete vypočuť na jednom mieste na podcasty.sme.sk.