Umělá inteligence dnes mění řadu oblastí k nepoznání. Plnou pozornost jí proto nyní věnuje i ministerstvo průmyslu a obchodu, a to hlavně v souvislosti s evropským aktem o umělé inteligenci (AI Act). Nyní tak připravilo novelu, která ho promítá do českých zákonů. Zároveň chce, abychom v Česku měli jednu z prvních certifikačních autorit v Evropě. Problematice se věnovala konference Zdravotnické prostředky 2025.

Inovativní zdravotnické prostředky s umělou inteligencí se ocitly v centru pozornosti ministerstva průmyslu a obchodu (MPO). Jde totiž o segment, který potřebuje nové nastavení a infrastrukturu. Díky ní pak půjde novinky certifikovat a uvádět na trh.

„Musíme začít od českého zákona, který ukotví dozorovou infrastrukturu včetně dozorového orgánu a oznamujícího orgánu, což bude Úřad pro technickou normalizaci, metrologii a státní zkušebnictví (ÚNMZ). Zákon máme napsaný. Přistoupili jsme k tomu tak, aby byl co nejjednodušší a nepřidával další zbytečnou byrokracii navíc. Je to minimalistická adaptace a jsme pyšní na to, že jsme to takto zvládli. Zákon je momentálně v meziresortním připomínkovém řízení,“ načrtává náměstek ministra průmyslu a obchodu a vládní zmocněnec pro AI Jan Kavalírek.

Poučení z minulosti

K návrhu se sešlo celkem 251 připomínek, které nyní ministerstvo vypořádává. Hotovo by mohlo být do konce roku, poté mohl zákon putovat na vládu.

„Vzhledem k tomu, že to pokládáme za relativně nekonfliktní věc, doufáme, že bychom to mohli Poslaneckou sněmovnou prohnat rychle. Ve chvíli, kdy zákon začne platit, může ÚNMZ přijmout přihlášku oznámeného subjektu o notifikaci. Paralelně se Český metrologický institut připravuje na to, že bude oznámeným subjektem (tedy certifikační autoritou, pozn. red.) a shání kvalifikované pracovníky,“ popisuje Kavalírek.

Mohlo by vás zajímat

Ministerstvo tak nyní ze všech sil pracuje na tom, aby nenastala situace, k níž v minulosti došlo kvůli nařízení o zdravotnických prostředcích (MDR). Tehdy totiž certifikační autorita nebyla nachystaná. A než se ji povedlo schválit, řada českých výrobců se raději obrátila do ciziny.

Účinnost se zřejmě posune

„Řešili jsme, aby notifikace oznámeného subjektu byla co nejjednodušší a aby oznámený subjekt mohl co nejsnáze posuzovat. Diskutovali jsme, jestli bude nutné, aby prošel kompletním posouzením, nebo jestli to bude jen nějaký kód. Dali jsme to i do připomínek k AI Actu. A v listopadu vyšel návrh Evropské komise, který to reflektuje. V příloze vydává nový set AI kódů,“ načrtává Kavalírek.

Aby se ale všechno stihlo, snaží se ministerstvo co nejvíc oddálit termín účinnosti. Ten má být nyní u vysoce rizikových AI systémů v srpnu 2027. V tuto chvíli to ale vypadá, že se termín přinejmenším u zdravotnických prostředků posune na srpen 2028.

„Díky tomu získáme čas a nestane se nám to, co minule, tedy že nebudeme připraveni. Naopak bychom chtěli být jedni z prvních, kdo bude připraven, aby se nám všichni výrobci vrátili do České republiky,“ dodává Kavalírek.

Softwary v hledáčku kontrol

A kdo na věc dohlédne? Státní ústav pro kontrolu léčiv (SÚKL) sice není dozorovým orgánem pro umělou inteligenci, nicméně má pod taktovkou zdravotnické prostředky. U software s AI, který je zdravotnickým prostředkem, kontroluje SÚKL povinnosti dané MDR.

„Budeme určitě spolupracovat s Českým telekomunikačním úřadem, který bude zodpovědný za dozor nad plněním té části, která bude dána AI Actem. Pro nás se nic moc nezmění – už dnes kontrolujeme zdravotnické prostředky, které jsou software a také AI. Ovšem pouze ohledně povinností plynoucích z MDR,“ konstatuje ředitelka sekce regulace zdravotnických prostředků SÚKL Karolína Peštová.

Mimochodem, právě na zdravotnické softwary příští rok SÚKL zamýšlí zaměřit svou pozornost. A už je zařadil do plánu kontrol.

„Z naší dozorové činnosti a jiných aktivit vnímáme, že stále není dobré povědomí o tom, že software může být zdravotnickým prostředkem. Je to tedy oblast, o které bychom chtěli edukovat a zaměřit se na ni v oblasti kontrol výrobců i poskytovatelů zdravotních služeb. I tam totiž vidíme jako riziko, že používají software, který není náležitě posouzen,“ dodává Peštová.