Evropské státy masově zavádějí AI do diagnostiky a komunikace s pacienty, jen minimum jich ale přijalo jasná právní pravidla odpovědnosti. Lékaři i pacienti se tak pohybují v nebezpečné právní nejistotě, varuje Světová zdravotnická organizace (WHO).

V evropském zdravotnictví se používání umělé inteligence (AI) šíří nebývalou rychlostí. Stále ale chybí základní právní a etická infrastruktura potřebná k ochraně pacientů, lékařů a důvěry veřejnosti. To je hlavní varování zprávy WHO Europe, která nabízí aktuální přehled o tom, jak 50 zemí Evropy a Střední Asie ve svých zdravotnických systémech AI zavádí a reguluje.

Nemocnice, ministerstva a veřejné pojišťovny v celé evropské oblasti zavádějí nástroje AI pro diagnostiku, třídění pacientů, sledování populace a komunikaci. I když se ale umělá inteligence velmi rychle dostává do klinické praxe, její řízení zůstává roztříštěné a v mnoha případech zcela chybí. A to přináší různá rizika, varují výsledky studie o umělé inteligenci ve zdravotnictví z let 2024 a 2025

„AI je již realitou pro miliony zdravotnických pracovníků a pacientů. Bez jasných strategií, ochrany osobních údajů, právních záruk a investic do gramotnosti v oblasti umělé inteligence však riskujeme, že se nerovnosti spíše prohloubí, než aby se snížily,“ říká k tomu Hans Henri P. Kluge, regionální ředitel WHO pro Evropu.

Mohlo by vás zajímat

Volba je na nás

Data odhalují výrazný nesoulad mezi přijetím AI a připraveností na toto přijetí. Pouze 4 země z regionu (tedy pouhých 8 procent zemí) vydaly národní strategii pro AI specifickou pro zdravotnictví. Dalších sedm zemí ji stále vyvíjí. Mezitím ale už téměř dvě třetiny zemí používají diagnostiku podporovanou AI a polovina z nich nasadila chatboty s AI pro komunikaci s pacienty.

Tato nerovnoměrná situace ukazuje, že zatímco země jako Estonsko, Finsko a Španělsko budují jednotné datové platformy, vzdělávací programy a systémy správy připravené na AI, jiné země postrádají institucionální kapacity.

„Stojíme na rozcestí. Buď bude AI využívána ke zlepšení zdraví a blahobytu lidí, ke snížení zátěže našich vyčerpaných zdravotnických pracovníků a ke snížení nákladů na zdravotní péči, nebo by mohla ohrozit bezpečnost pacientů, narušit soukromí a prohloubit nerovnosti v péči. Volba je na nás,“ míní Natasha Azzopardi-Muscatová, ředitelka odboru zdravotních systémů WHO Europe.

Největší překážka? Právní vakuum

V celém regionu WHO Europe se jako nejvýznamnější překážka jeví absence jasných právních rámců. 86 procent zemí regionu uvádí, že právní nejistota je hlavní překážkou pro zavedení AI ve zdravotnictví. Ovšem jen 8 procent zemí zavedlo normy určující, kdo nese odpovědnost v případě, že systém AI způsobí škodu.

Nedostatek regulace se přitom týká celého životního cyklu AI ve zdravotnictví. Méně než polovina států regionu WHO Europe podnikla nějaké kroky k posouzení mezer ve stávajících zákonech. Něco málo přes polovinu jich jmenovalo regulační orgány, které jsou schopny posuzovat a schvalovat systémy AI. Mnohem méně států má mechanismy pro sledování toho, jak se AI systémy chovají poté, co jsou zavedeny. A pouze 3 země zavedly právní požadavky, které se konkrétně zabývají generativní AI ve zdravotnictví.

Pracovníci ve zdravotnictví tak čelí nejasným hranicím odpovědnosti. Když algoritmus udělá chybu, riziku jsou vystaveni jak lékaři, tak pacienti. Odpovědnost přitom není jasná. „Bez jasných právních norem nemusí být lékaři ochotní spoléhat se na nástroje AI a pacienti nemusí mít žádnou možnost se odvolat, pokud se něco pokazí,“ varoval David Novillo Ortiz, regionální poradce WHO pro data, AI a digitální zdraví.

Investice zaostávají za sliby

Zatímco vlády v celém regionu se předhánějí v zavádění systémů umělé inteligence, jejich politické a rozpočtové rámce zaostávají. Téměř dvě třetiny zemí již využívají umělou inteligenci pro diagnostiku, polovina používá chatboty s umělou inteligencí a více než polovina identifikovala prioritní oblasti pro využití umělé inteligence ve zdravotnictví. Ale pouze čtvrtina zemí skutečně vyčlenila finanční prostředky na realizaci těchto priorit. Téměř všechny země uvádějí, že hlavním důvodem pro zavedení AI je zlepšení péče o pacienty, těsně následované snížením tlaku na pracovní sílu a zvýšením efektivity. Avšak s nedostatečným financováním a neúplnými strukturami správy hrozí, že mnoho iniciativ zůstane pouze v pilotní fázi.

Co z toho vyplývá pro širokou veřejnost? Podle dat WHO především tři hlavní rizika: bezpečnost pacientů, spravedlivost péče a digitální soukromí. Systémy AI jsou tak silné, jak silná jsou data, na kterých jsou trénovány. Zaujaté nebo neúplné datové soubory mohou přímo vést k nesprávným výsledkům, jako jsou chybné diagnózy nebo nekonzistentní doporučení léčby. „AI je na pokraji revoluce ve zdravotnictví, ale její slib se naplní pouze tehdy, pokud lidé a pacienti zůstanou v centru každého rozhodnutí,“ vysvětluje Kluge.

Zákon EU o umělé inteligenci (AI Act) je v současné době předmětem debaty v rámci souhrnného návrhu, jehož cílem je odložit zavedení jeho ustanovení týkajících se vysokého rizika. Tedy pravidel, která mají platit pro citlivá použití, jako je biometrická identifikace, policejní činnost a kritická infrastruktura. Původně měla tato povinnost vstoupit v platnost v srpnu 2026, nyní však může být odložena až na prosinec 2027. Komise také navrhla zrušit povinnost firem registrovat systémy s vysokým rizikem, které samy vyhodnotily.