Uplatnění umělé inteligence v evropském zdravotnictví nabízí obrovský potenciál pro zrychlení diagnostiky, odhalování závažných onemocnění i zefektivnění práce přetíženého lékařského personálu. Současně však vyvolává řadu zásadních právních, bezpečnostních a etických otázek. Na čtvrtečním zasedání Výboru Evropského parlamentu pro veřejné zdraví (SANT) to ukázala debata nad novou studií zaměřenou na využití zdravotnických dat.

Zatímco autorka výzkumu Využití dat ve veřejném zdraví – pochopení potenciálu umělé inteligence v medicíně Daniela Spajićová zdůraznila nepostradatelnost rozvoje AI pro moderní medicínu, přítomní europoslanci neskrývali obavy. Varovali především před tím, aby technologie nevytlačila lidský úsudek, nezpůsobila diagnostické chyby nebo nevedla k prolomení soukromí pacientů.

Technologie fungují, legislativa klopýtá

Spajićová zdůraznila, že správně nastavený právní rámec pro opětovné využití dat je pro pokrok v medicíně zcela klíčový. Umělá inteligence podle ní už dnes dosahuje velmi slibných výsledků. Konkrétně se uplatňuje například při analýze obrazových dat, jako jsou rentgenové či CT vyšetření, kde pomáhá s včasným záchytem rakoviny plic. Zmínila také využití velkých jazykových modelů pro strukturování zdravotnické dokumentace nebo prediktivní nástroje. Ty dokážou odhadnout riziko rozvoje diabetu či kardiovaskulárních chorob.

Zároveň však Spajićová upozornila, že plnému rozvoji stále brání roztříštěnost legislativy i nedostatek spolehlivých dat o tom, v jaké fázi nasazení se AI nástroje v nemocnicích reálně nacházejí. „Umělá inteligence má schopnost transformovat zdravotní péči ve prospěch poskytovatelů i samotných pacientů. Zavedení rámce, který usnadní opětovné využití dat, je proto pro její pokrok zásadní,“ uvedla. Připomněla, že EU se snaží situaci řešit tvorbou Evropského prostoru pro zdravotní data (EHDS) či balíčkem Digital Omnibus. Ten má zjednodušit přístup k datům pro výzkumné účely.

Nadšení versus „halucinace“ a ztráta odbornosti

Reakce zákonodárců na výklad o potenciálu AI v medicíně byla značně opatrná. Europoslanec Ignazio Marino varoval před slepou důvěrou v technologii a poukázal na fenomén takzvaných halucinací umělé inteligence. Projevují se tak, že algoritmický systém si v případě nejistoty diagnózu jednoduše vymyslí.

„Byl jsem optimistický až do chvíle, než se objevila řada studií ukazujících, že pokud AI nezná odpověď, vymyslí si ji. Například výzkum ze Stanfordu na tisících mamogramů ukázal, že když AI nerozpoznala přítomnost nádoru, diagnózu si dotvořila. A my samozřejmě nevíme, kdy AI říká pravdu a kdy halucinuje,“ zdůraznil Marino. Dohled člověka je tak podle něj absolutně nezbytný.

Podobně skepticky se k podkladům z automatizovaných systémů vyjádřil i český europoslanec Ivan David. Připomněl, že pokusy o expertní diagnostické systémy existují už dekády. Klíčovým problémem však zůstává kvalita vstupních dat a riziko falešně negativních či pozitivních výsledků. Varoval proto před situací, kdy by se lékaři spoléhali pouze na výstupy z počítače.

„Musíme mít vždy k dispozici odborné vyhodnocení lidskou bytostí, abychom se nepodívali jen na kus papíru a pacienta ani neléčili, ani nezohlednili komplexní analýzu,“ apeloval David.

Francouzská europoslankyně Marie-Luce Brasier-Clainová pak doplnila, že nekritické přejímání špatných doporučení od AI může vážně narušit důvěru veřejnosti v lékařskou profesi a zkomplikovat určování právní odpovědnosti za chybné zákroky.

Bezpečnost dat, kybernetické hrozby a právo na odhlášení

Dalším velkým tématem debaty se stala ochrana osobních údajů a kybernetická bezpečnost. Rakouský europoslanec Gerald Hauser se dotazoval na garance při přeshraničním sdílení zdravotních dat v rámci EHDS. Současně s tím vyjádřil obavu ohledně zaručení stoprocentní anonymity.

„Pokud se odhlásíte z dalšího využívání svých dat v Evropském prostoru pro zdravotní data, můžeme si být stoprocentně jistí, že nebudou dále použita, a to ani v anonymizované podobě? Jak víte, AI dokáže z anonymizovaných dat opětovně získat osobní údaje. A právě toho se mnoho lidí obává,“ konstatoval Hauser.

Na bezpečnostní rizika propojených systémů a hrozbu masivních úniků dat upozornila také dánská europoslankyně Stine Bossová. Mimo jiné zdůraznila, že citlivé zdravotní informace bývají primárním terčem kybernetických útoků či chyb v rozsáhlých IT modelech.

Litevský europoslanec Aurelijus Veryga se zase zajímal o to, co brání širšímu zapojení AI do analýzy širších faktorů veřejného zdraví, jako jsou environmentální či sociální aspekty, které by díky metadatům mohly odhalit dosud neznámé souvislosti.

Anonymizace jako pravidlo a lidský dohled

Spajićová potvrdila, že obavy z halucinací AI i ochrany dat jsou plně oprávněné, nicméně existující i připravovaná legislativa s nimi počítá. Ubezpečila, že EHDS nastavuje jako základní pravidlo zpracování výhradně anonymizovaných dat v přísně zabezpečeném prostředí. Nepůjde tedy možné získat z něj žádné osobní údaje. Pseudonymizovaná data bude možné použít jen ve zcela výjimečných případech, kdy nelze cíle výzkumu dosáhnout jinak.

Pokud jde o právo pacienta odmítnout sekundární využití svých dat (tzv. opt-out), bude to podle Spajićové garantováno a implementováno na národní úrovni. Výjimky pak mají podléhat velmi přísným podmínkám, například při závažných hrozbách pro veřejné zdraví.

„Existuje-li riziko halucinací AI, je naprosto zásadní zajistit, aby si zdravotničtí pracovníci udrželi své lékařské dovednosti a neustále se vzdělávali. Díky tomu odhalí případné anomálie ve výstupech,“ zdůraznila. Dodala, že lidský dohled a kvalitní vstupní data zůstávají jediným způsobem, jak z AI vytvořit bezpečného a důvěryhodného partnera pro moderní medicínu.