Klíčová světová instituce pro posuzování vstupu léků a terapií na trh má nového šéfa a s ním přichází i politika MAHA (Make America Healthy Again, volně přeloženo Vraťme Americe zdraví). Jedním z jeho prvních kroků je zbrklé zavádění umělé inteligence, která ale dělá chyby a neumí si poradit s jednoduchým úkoly. Jazykové modely prostě zatím nedokázaly nahradit hromadně propuštěné „lidské“ experty. Informace přinesly zpravodajské portály New York Times, NBC News či KFF Health News.
Ano, řeč je o slavném a prestižním Americkém úřadu pro kontrolu potravin a léků FDA (Food and Drug Administration). V rámci čistek v různých úřadech v USA, které prosazuje prezident Donald Trump, bylo z FDA propuštěno 1 940 lidí, čímž se počet zaměstnanců snížil z přibližně 10 000 na 8 000.
Priority FDA v duchu MAHA
Komisař FDA Marty Makary, který tuto instituci vede od letošního 1. dubna, přichází s filozofií zdravého rozumu, která zpochybňuje některé zaužívané lékařské postupy, což může být sice osvěžující přístup u rebelujícího lékaře, jímž donedávna byl, ale problematické u šéfa mocného státního úřadu, jímž je nyní.
Marty Makary spolu se svým kolegou Vinayem Prasadem, který vede oddělení dohlížející na vakcíny a genovou terapii, publikovali ve váženém vědeckém časopise JAMA pozoruhodný článek v němž vysvětlují priority FDA.
Makary plánuje využít umělou inteligenci k „radikálnímu zvýšení efektivity“ v rozhodování o schválení nových léků a zdravotnických prostředků. Současně chce urychlit závěrečné fáze tohoto rozhodování na pouhé týdny. „FDA se zaměří na poskytování rychlejší léčby a smysluplné léčby pacientům, zejména těm se zanedbávanými a vzácnými onemocněními, zdravější stravu pro děti a přístupy založené na zdravém rozumu k obnovení důvěry veřejnosti,“ uvádí se v článku. Stěžejním bodem nové agendy úřadu totiž má být přezkum chemikálií a dalších „znepokojivých složek“, které se objevují v amerických potravinách. To je jedna z vlajkových lodí amerického ministra zdravotnictví Roberta F. Kennedyho Jr. a součást jeho politického programu MAHA.
Elsa si vymýšlí
Začátkem června FDA představila Elsu, pokročilý jazykový model umělé inteligence podobný ChatGPT. Agentura uvedla, že by mohl pomáhat při rozhodování do kterých zařízení pro výrobu léků nebo potravin je třeba přednostně poslat kontrolu, dále při popisování nežádoucích účinků léků v souhrnech údajů o přípravku a při provádění dalších základních úkolů dohledu nad regulovanými produkty. Zkoumáme 500 000 stránek předložených ke schválení, umělá inteligence zvýší naši efektivitu, při jejích zkoumání, tvrdí představitelé FDA.
Experti, které oslovil například The New York Times, ovšem míní, že umělá inteligence je sice dobrý pomocník, ale nikoliv transformativní nástroj, tedy takový, který by znamenal hlubokou a zásadní změnu. Model například omezuje počet znaků, které lze zkontrolovat, což znamená, že není schopen ověřit data, která opakují, nebo jsou zastaralá. Jeho výsledky je nutné pečlivě překontrolovat člověkem, takže se ušetří jen málo času.
Někteří zaměstnanci dokonce tvrdí, že model Elsa halucinuje nebo chrlí falešné informace. O halucinování AI jazykového modelu se hovoří tehdy, generuje-li obsah, který je zjevně nepravdivý, nesmyslný, logicky chybný nebo odtržený od reality či tréninkových dat, aniž by si to „uvědomoval“. Model si pak „vymýšlí“ fakta nebo informace, které nemají žádný základ v jejich tréninkových datech nebo se vůbec v realitě světa nevyskytují.
Mohlo by vás zajímat
Špatné nakládání s fakty vede k nesprávným závěrům
Již před představením Elsy se v FDA objevily trable s jiným modelem umělé inteligence, interně označovaným jako CDRH-GPT. Měl pomáhat zaměstnancům centra, odpovědného za zajištění bezpečnosti prostředků implantovaných do těla, jakož i základních zařízení jako jsou rentgeny a CT skenery. Nástroj – který je stále v beta testování – je chybový, zatím se nepřipojuje k interním systémům FDA a má problémy s nahráváním dokumentů nebo s umožněním uživatelům odesílat otázky, prozradili zaměstnaci portálu NBC News. Také momentálně není připojen k internetu a nemá přístup k novému obsahu, jako jsou nedávno publikované studie nebo informace obsažené ve zdrojích s placeným přístupem.
Potíže FDA s umělou inteligencí jsou jen pokračováním ostudy, která provázela zveřejnění zprávy o zdraví dětí, vypracované komisí MAHA ministra Kennedyho. Obsahovala totiž mnoho odkazů na vědecký výzkum zjevně vybájený programem umělé inteligence. Ministr a celá Trumpova administrativa zprávu označila za „jasný, na důkazech založený základ“ pro řešení řady problémů týkajících se zdraví dětí. Jenže v ní byly citovány studie, které neexistovaly, například o reklamě na léky zaměřené přímo na spotřebitele, o duševních onemocněních a lécích předepisovaných dětem s astmatem. Špatné nakládání s fakty pak vedlo k nesprávným závěrům. Jako příklad uvádí The New York Times tvrzení, že běžné dětské očkování může být škodlivé, což byl podle vědců závěr založený na nesprávném chápání imunologie.
Nahradí AI intimní vztahy s průmyslem?
Makary mimo jiné zdůrazňuje, že model umělé inteligence, používaný FDA, nebyl trénován na základě dat poskytnutých farmaceutickým nebo zdravotnickým průmyslem. Otázkou je, co se s tím ve skutečnosti myslí, protože bez dat o účinnosti a bezpečnosti od výrobců nemohou být informace o lécích, nebo zdravotnických prostředcích úplné, vždyť i také proto je povinně poskytují právě FDA. Spíše se zdá, že se Makary snaží pochlubit, jak souzní s ministrem zdravotnictví Keneddym, jenž kritizuje FDA za to, že má příliš blízko k farmaceutickému průmyslu. Ostatně pod tlakem těchto obvinění a také pro přílišnou náklonnost Trumpovy administrativy k podnikatelským subjektům, úředníci FDA odcházejí, nebo jsou propouštěni.
Ve svém článku v časopise JAMA Makary a jeho kolega Prasad také napsali, že FDA musí být „partnerem průmyslu“, ale zároveň se vyhýbat „cozy relationship“ , což bychom mohli přeložit v tomto kontextu tak, že se má vyhýbat hodně blízkému, až intimnímu vztahu, který prý „charakterizoval agenturu v minulosti“. Na tuto pasáž reagovala pro The New York Times Reshma Ramachandranová, ředitelka Yaleovy organizace Collaboration for Regulatory Rigor, Integrity and Transparency, která upozornila na sérii osobních setkání pod hlavičkou CEO Forum vedoucích představitelů FDA na čele Makarym s generálními řediteli farmaceutických a biotechnologických firem v šesti amerických městech. „Jak tohle chrání agenturu ‚před intimním vztahem‘ s průmyslem?“ ptá se Ramachandranová s tím, že tyto cesty „vypadají, jako by byly přímo vyňaty z plánu PhRMA“ (PhRMA je americké obchodní sdružení, které zastupuje inovační biofarmaceutické výzkumné společnosti – pozn. redakce).
Rozumný člověk, který říká přehnané věci
Samotný Marty Makary je rozporuplná osobnost. Špičkový chirurg a neomalený kritik mnoha svých lékařských kolegů i amerického zdravotnictví. Napsal i několik knih, mezi nimi bestseller pod názvem Nezodpovědnost: co vám nemocnice neřeknou a jak může transparentnost způsobit revoluci ve zdravotnictví (Unaccountable : what hospitals won’t tell you and how transparency can revolutionize health care). Mnozí jeho kolegové si ho váží. „Je to chirurg světové úrovně a má odborné znalosti v oblasti zdravotní politiky,“ řekla KFF Health News Jennifer Nuzzo, profesorka epidemiologie na Brownově univerzitě a bývalá Makaryho kolegyně z Johns Hopkins. „Pokud máte rakovinu slinivky břišní, budete chtít, aby vás operoval právě on,“ dodala.
Podle portálu KFF Health News upoutal Makary pozornost Donalda Trumpa během pandemie covidu-19 častým účinkováním v pořadech Fox News, jako například „Tucker Carlson Tonight“, v nichž sepsul úředníky veřejného zdravotnictví.
Jeho kritici tvrdí, že občas zveličoval škodlivost vakcíny proti covidu a podceňoval nebezpečí viru, čímž přispěl k tomu, že se mnozí Američané vyhýbali očkování a dalším opatřením, která měla bránit přenosu nemoci a snížení počtu hospitalizací a úmrtí. Konkrétně v prosinci 2020 Makary prohlásil, že by očkování 20 % populace stačilo k vytvoření kolektivní imunity a v článku pro Wall Street Journal z února 2021 předpověděl, že covid do dubna prakticky zmizí, protože mnoho lidí by se stalo imunními díky infekci nebo očkování. Všechny tyto teze byly nepravdivé. V USA v dubnu 2021 dosáhl počet úmrtí 560 000 a k dalším 650 000 došlo později. Tyto jeho omyly nebyly zdaleka jediné.
„Z docela rozumného člověka se stal člověk, který říkal spoustu přehnaných a zbytečných věcí,“ řekl o něm portálu KFF Health News Ashish Jha, děkan Fakulty veřejného zdraví Brownovy univerzity, který byl za prezidenta Joea Bidena koordinátorem reakce Bílého domu na covid-19. „Bude se muset rozhodnout, zda bude naslouchat vědcům ve své administrativě, nebo svému šéfovi, který s vědou často nesouhlasí. Je to chytrý a přemýšlivý člověk a doufám, že si najde cestu,“ uzavřel děkan Jha.
