Americký úřad pro kontrolu potravin a léčiv (FDA) schválil mnoho nových programů využívajících umělou inteligenci. Řada lékařů se k nim ale staví poněkud skepticky. U některých programů totiž nejsou známé výsledky, že by skutečně přispívaly ke zlepšení zdravotní péče. O nedostatku kvalitně podložených výzkumů v této oblasti informuje americký deník The New York Times.
Americký úřad FDA hraje klíčovou roli při schvalování nových zdravotnických produktů a netají se tím, že horkým tématem je pro něj právě větší zapojení umělé inteligence do zdravotnictví, například také v oblasti léčiv. FDA by ale měl pečlivěji prověřovat a popisovat každý program, který schválí, na což upozorňují hlavně lékaři. „Určitě je to vzrušující, ale pokud takové programy budeme používat, musíme mít jistotu, že opravdu fungují,“ uvedl v rozhovoru Jesse Ehrenfeld, prezident Americké lékařské asociace.
Americký prezident Joe Biden vydal exekutivní příkaz, který vyzývá k regulaci napříč širokým spektrem amerických agentur, které by měly mít pod kontrolou bezpečnostní rizika při používání umělé inteligence, a to včetně zdravotní péče. Na toto téma by se měla také uskutečnit schůzka se světovými lídry. Podle Bidena je zapotřebí na vývoj umělé inteligence víc dohlížet a budovat takový systém, kterému mohou lidé věřit a cítit se bezpečně.
Rychlé tempo, nízká důvěra
Umělá inteligence pomáhá lékařům v USA každý den, ať se jedná o administrativu či pomoc v diagnostice a léčbě. Dynamický vývoj a obrovské investice do digitálních technologií ale nasvědčují tomu, že osudem umělé inteligence rozhodně není zůstat pouze na druhé koleji jako pouhý pomocník lékařů.
Společnost Google například spustila svůj pilotní program nového chatbota pro zdravotníky, který se nazývá Med-PaLM 2. Program je navržen tak, aby přes něj pacienti mohli odpovídat na lékařské dotazy. Mezi zdravotníky ale vyvolal obavy týkající se soukromí pacientů a GDPR.
FDA je navíc ve svých zásazích omezen pouze na produkty schválené k prodeji. Nemá tedy žádnou pravomoc nad programy, které zdravotní systémy vytvářejí a používají interně. Velké zdravotní systémy v USA jako Stanford, Mayo Clinic a Duke – stejně jako zdravotní pojišťovny – si proto mohou vybudovat vlastní A.I. nástroje, které mohou ovlivňovat rozhodnutí o péči u tisíců pacientů, a to bez státního dohledu.
Přesto chce FDA do nemocnic nasadit asi 350 softwarových programů, které by lékařům pomáhaly odhalit krevní sraženiny, nádory či problémy na plicích. Nedostatek veřejných informací o programech umělé inteligence, a to paradoxně i v současné éře dat, ale způsobuje, že se lékaři spíše drží zpátky a bojí se, že by nové technologie mohly pacientům víc uškodit než pomoct.
„Musíte mít opravdu přesvědčivá, skvělá data, abyste změnili lékařskou praxi a vzbudili důvěru, že toto je správná cesta,“ řekl k tomu Eric Topol, výkonný viceprezident společnosti Scripps Research a lékař v San Diegu.
Jedním z nových přístupů by zřejmě mohlo být budování laboratoří, kde by vývojáři měli přístup k obrovskému množství dat a programy umělé inteligence by tak na jejich základě mohli testovat a rovnou sestavovat.
„Pokud chceme skutečně zajistit správnou rovnováhu, budeme muset změnit federální zákon, protože rámec, který máme pro tyto technologie používat, je téměř 50 let starý,“ upozornil na zastaralou legislativu šéf divize zdravotnických prostředků FDA Jeffrey Shuren. Problematické je také přizpůsobení strojového učení velkým sítím amerických nemocnic. Softwary spolu často nekomunikují a není jasné, kdo by je měl platit. „Mělo by být jasné, kde máme začít,“ uvedl Ehrenfeld a dodal, že v této oblasti v USA chybí správný regulační rámec.
-ns-
