Umělá inteligence se rychle stává silným nástrojem moderní medicíny – dokáže šetřit čas, zefektivňovat provoz ordinací a pomáhat lékařům při rozhodování i komunikaci s pacienty. Jenže ve chvíli, kdy se dostane do rukou laiků bez potřebného kontextu, může se z užitečného pomocníka snadno proměnit v kladivo na lékaře. O využívání AI ve zdravotnictví mluvil se Zdravotnickým deníkem proděkan Lékařské fakulty Ostravské univerzity, předseda České společnosti pro umělou inteligenci a poradce ministra zdravotnictví Ondřej Volný.

Jak se daří prosazovat AI v různých segmentech českého zdravotnictví?

Začal bych primární péčí. Průměrný věk praktických lékařů – pro dospělé i pro děti – je poměrně vysoký, což často souvisí s určitým konzervativním přístupem. Na druhou stranu nastupující generace lékařů už přemýšlí jinak a více si uvědomuje přínosy digitalizace pro běžný chod ordinace. Zatím jde spíše o jednotlivce, nechci se dotknout starší generace, ale aktivnější jsou v tomhle směru hlavně mladší lékaři. Významnou roli hrají také soukromí poskytovatelé zdravotních služeb, kteří dobře vidí výhody inovací – například při objednávání pacientů, v telemedicíně nebo při organizaci provozu.

U lůžkové péče jsou klíčové fakultní nemocnice, které jsou většinou napojené na lékařské fakulty a měly by být tahouny inovací. Z vlastní zkušenosti můžu říct, že například Fakultní nemocnice Ostrava je k zavádění nových technologií otevřená – ať už jde o certifikovaná AI řešení nebo o spolupráci na výzkumu. AI dnes využívají i další fakultní nemocnice, například Motol, Všeobecná fakultní nemocnice v Praze, FN Olomouc, Fakultní nemocnice u sv. Anny nebo FN Brno. Vždy ale hodně záleží na konkrétních lidech na jednotlivých pracovištích. Inovace sice bývají součástí strategických plánů, ale ne vždy se promítnou do každodenní praxe.

Nahrát vlastní snímky do velkých jazykových modelů bych pacientům úplně nedoporučoval.

Co se týče krajských nemocnic, mohu mluvit hlavně o Moravskoslezském kraji, kde jsme v úzkém kontaktu s místními zařízeními. Například nemocnice AGEL Nový Jičín nebo Moravskoslezská nemocnice Havířov patří díky svému vedení mezi ty, které jsou otevřené testování nových řešení, zavádění telemedicíny i implementaci AI, včetně zapojení do výzkumných projektů.

Pokud jde o AI, dochází častěji k implementaci vyloženě medicínských nástrojů, které například vyhodnocují obrazová data, nebo jde spíše o systémy na podporu administrativy a podobně?

Je to zhruba půl na půl. Hodně zase záleží na konkrétním pracovišti a oboru. Například tam, kde je velký objem telefonických hovorů, se nabízí nasazení AI pro jejich třídění nebo automatické odbavování. Toto ale vždy vychází z konkrétní organizace provozu.

Taková řešení se už reálně testují – například ve Fakultní nemocnici Ostrava, ale i v nemocnicích v Novém Jičíně, Havířově nebo ve Frýdku-Místku. Právě tyto nemocnice si uvědomily, že AI může ušetřit čas a snížit administrativní zátěž.

Pokud jde o medicínské využití, podle dat ministerstva zdravotnictví mají dnes největší zastoupení certifikované AI nástroje pro analýzu obrazových dat. Patří sem například vyhodnocování rentgenů, mamografie, CT, magnetické rezonance nebo PET. Právě v této oblasti je dnes dostupných nejvíce řešení a také nejvíce těch, která splňují požadavky na zdravotnické prostředky.

Mohlo by vás zajímat

Velkým jazykovým modelům nevěřte bezmezně

Vyhodnocování snímků z CT, MR nebo rentgenu dnes už dokážou i volně dostupné velké jazykové modely jako ChatGPT, Gemini nebo Grok. Jak moc jim mohou pacienti věřit?

Ta důvěra by měla být spíš opatrná. Tyto modely sice umí pracovat s obrazem a nabídnout nějakou interpretaci, ale nejde o certifikované zdravotnické prostředky – nemají schválení podle evropského MDR, americké FDA ani nového Aktu o AI. To je zásadní rozdíl oproti klinicky používaným systémům.

Pacienti si sice mohou nahrát vlastní snímky – ideálně bez identifikačních údajů – ale osobně bych to úplně nedoporučoval. Data totiž opouštějí jejich zařízení a nejsou pod jejich plnou kontrolou, pokud nepoužívají vlastní uzavřený systém. To s sebou nese jak otázky bezpečnosti, tak ochrany soukromí.

Co se týče samotné spolehlivosti – ta je nižší než u certifikovaných nástrojů. I když výstupy mohou na první pohled působit velmi profesionálně. Sám jsem si zkusil nechat analyzovat vlastní rentgen hrudníku bez patologického nálezu a výsledek byl formulovaný poměrně přesvědčivě. Je ale potřeba říct, že to byl jen jeden konkrétní případ.

Z pohledu lékaře je navíc práce s takovými nástroji omezená – bez souhlasu pacienta a etické komise není možné do nich nahrávat zdravotnickou dokumentaci, právě proto, že nejde o certifikované zdravotnické prostředky.

Mají tyto volně dostupné modely své místo ve zdravotnictví, například v administrativě?

Ano, v administrativě a podpůrných činnostech dává jejich použití smysl. Může jít třeba o psaní e-mailů, práci s texty nebo převod složitých lékařských zpráv do srozumitelnější podoby pro pacienty. Vždy je ale potřeba mít na paměti, že takový výstup nemá oficiální „razítko“ ani certifikaci.

Já sám tyto nástroje využívám hlavně při práci s textem – například při přípravě e-mailů nebo zpracování delších odborných materiálů, typicky výzkumných článků. Zároveň používám vlastního AI agenta, který mi pomáhá třeba se screeningem doporučení podle aktuálních klinických doporučených postupů (guidelines). Klíčové ale je, že ten systém mám napojený na ověřené zdroje, takže nepracuje jen s běžným obsahem z internetu.

V omezené míře se dají tyto nástroje využít i v klinickém uvažování – například jako doplněk při širší diferenciální diagnostice. Osobně jsem to zkoušel tak, že jsme vedle klasického lékařského konzilia využili i „konzilium“ s podporou AI. Existují i pokročilejší systémy, například řešení od Microsoftu, které je trénované na kvalitních kazuistikách z odborných časopisů a dokáže navrhovat diagnostické postupy nebo doporučení vyšetření, včetně ohledu na efektivitu péče.

Lze očekávat, že se systémy budou dál zlepšovat a v některých oblastech mohou lékaře časem i překonat.

Pořád ale platí, že nejde o certifikované zdravotnické prostředky. Takže jejich role je dnes hlavně podpůrná – mohou šetřit čas, rozšiřovat pohled, ale konečné rozhodnutí musí vždy zůstat na lékaři.

AI agenti jsou teď velký trend – za uživatele dokáží samostatně plánovat, rozhodovat se a provádět složitější úkoly. V čem mohou být užiteční třeba praktickým lékařům či ambulantním specialistům?

Pro praktiky i ambulantní specialisty mohou být užiteční hlavně při zefektivnění každodenního provozu. Pomáhají s organizací práce, nastavováním procesů nebo třeba s tím, jak lépe řídit chod ordinace a péči o pacienty.

Teď se tomu budeme například věnovat i v rámci roadshow pro praktické lékaře v Moravskoslezském kraji, kde představujeme konkrétní nástroje, které jim mohou ulehčit práci. Vybrali jsme několik praktických řešení – od jazykových modelů přes telemedicínu až po technologie pro vyhodnocování EKG, včetně vzdáleného monitoringu nebo chytrých fonendoskopů.

Důležité ale je, že neexistuje jedno řešení pro všechny. Každý lékař si může vybrat jen to, co skutečně potřebuje. Pro někoho to může být AI agent, který převezme administrativu a ušetří čas na samotnou péči o pacienty. Jiný lékař zase ocení nástroje pro rychlé a přesné vyhodnocení EKG nebo systém, který automaticky přepisuje a strukturuje rozhovor s pacientem.

U AI agentů je třeba brát ohledy na stejná rizika jako například u zmíněných velkých jazykových modelů?

Základní princip zůstává stejný: kvalita výstupu vždy závisí na kvalitě vstupních dat. Existuje riziko chyb nebo takzvaných halucinací. Na druhou stranu lze očekávat, že se tyto systémy budou dál zlepšovat a v některých oblastech mohou lékaře časem i překonat.

Klíčové je ale chápat jejich limity. Například u nástrojů pro vyhodnocení EKG nebo zobrazovacích metod AI pracuje jen s tím, co dostane. Pokud nahrajete samotnou EKG křivku, systém ji vyhodnotí, ale nezná širší kontext – tedy anamnézu pacienta, užívané léky nebo výsledky laboratorních testů, jako jsou třeba hladiny troponinu. Bez těchto informací je výstup nutně omezený.

Teoreticky lze tyto nedostatky řešit kombinací více nástrojů – například jedním agentem pro analýzu dat a dalším pro jejich shrnutí v širším kontextu. Zásadní ale je, že dnes neexistuje „AI lékař“, který by měl kompletní přehled o pacientovi, byl napojený na zdravotnické systémy a v reálném čase vyhodnocoval všechny dostupné informace.

Do budoucna se to ale může změnit. Je reálné, že ještě před samotným vyšetřením proběhne automatická předanalýza dat pomocí AI a lékař pak dostane připravený souhrn informací, který při setkání s pacientem doplní a upřesní.

Výplod umělé inteligence jako kladivo na lékaře

Jaká rizika může mít, když pacient „nakrmí“ svými zdravotnickými daty velký jazykový model? To není úplně lege artis, viďte?

To určitě není. Pokud si pacient dokumentaci anonymizuje – odstraní jméno, rodné číslo a další identifikátory – může s ní takto pracovat, ale dělá to na vlastní riziko. A těch rizik je několik. Především jde o spolehlivost výstupů. AI může generovat nepřesné nebo i chybné informace, a pacient často nemá jak poznat, co je správně a co ne.

Pacienti dnes často přicházejí s konkrétními výstupy z AI – někdy i v podobě hotových „závěrů“, o kterých chtějí diskutovat.

Navíc je třeba brát v potaz, že tyto nástroje se snaží uživateli „zavděčit“ a nabídnout co nejúplnější odpověď. To může vést k tomu, že zmíní i méně pravděpodobné diagnózy, což může být pro toho pacienta stresující, zvlášť když narazí na vážné onemocnění, které je ve skutečnosti nepravděpodobné nebo s jeho případem vůbec nesouvisí.

Není úzkost vyvolaná vyhledáváním symptomů na internetu typičtější spíše pro dobu před AI, kdy si lidé své příznaky googlovali. Není AI v tomto sofistikovanější?

AI nástroje jsou určitě pokročilejší než klasické vyhledávání. To bez debat. Na druhou stranu i Google dnes pracuje s vlastními AI funkcemi a objevují se i specializované zdravotnické moduly, které se snaží poskytovat přesnější a citlivější odpovědi.

Pokud jsou tyto systémy dobře navržené, mohou pacienty spíš uklidnit než zbytečně děsit – například tím, že lépe pracují s pravděpodobností a nezdůrazňují hned ty nejhorší scénáře. To je posun oproti dřívějšímu „googlení“.

Zároveň to ale přináší novou situaci pro lékaře. Pacienti dnes často nepřicházejí jen s obecnými informacemi z internetu, ale s konkrétními výstupy z AI – někdy i v podobě hotových „závěrů“, o kterých chtějí diskutovat. Lékař pak musí projít celý tento materiál a vysvětlit, co dává smysl a co ne.

Máte s tím osobní zkušenosti?

Ano, jako neurolog jsem se s tím setkal několikrát. Je to zajímavé, ale má to i praktický dopad: místo úspory času to může vyšetření naopak prodloužit. Než projdete podklady od AI a proberete je s pacientem, zabere to často víc času než klasické vyšetření bez těchto informací.