Britská komise navrhla 44 doporučení pro bezpečné zavádění umělé inteligence v medicíně

Britská komise zveřejnila 9. září 2026 v Londýně soubor 44 doporučení, která mají nastavit pravidla pro regulaci umělé inteligence v medicíně. Cílem materiálu je najít rovnováhu mezi využitím potenciálu, který AI nástroje v lékařství nabízejí, a zajištěním bezpečnosti pacientů. Komise se snaží reagovat na rychlý nástup algoritmů do klinické praxe, kde se s jejich pomocí analyzují například snímky z vyšetření nebo se sleduje vývoj chronických onemocnění.

Jako konkrétní příklad využití AI v medicíně komise uvádí analýzu milionů skenů očí u pacientů s cukrovkou, kde algoritmy pomáhají odhalovat časné příznaky poškození zraku spojeného s diabetem. Podobné nástroje už dnes zpracovávají obrovské množství dat rychleji, než by to dokázal jakýkoli tým lékařů, a mohou tak přispět k včasnějšímu záchytu nemocí. Právě rozsah a rychlost, s jakou se AI do zdravotnictví dostává, byl podle komise hlavním důvodem, proč bylo potřeba připravit jasný regulační rámec.

Mezi klíčová doporučení patří postupné schvalování nových AI modelů, které by mělo umožnit jejich zavádění do praxe po fázích, místo jednorázového plošného povolení. Tento přístup má podle komise snížit rizika spojená s nasazením nedostatečně ověřených systémů a zároveň umožnit rychlejší reakci na případné problémy. Součástí doporučení je také zavedení systému, díky kterému by nemocnice a kliniky mohly hlásit, jak konkrétní nástroje v praxi fungují.

Zpráva se podrobně věnuje tomu, jak sledovat výkon zdravotnických AI zařízení v průběhu času. Komise upozorňuje, že algoritmus, který při zavedení fungoval spolehlivě, může postupně ztrácet přesnost, pokud se mění složení pacientů, technické vybavení nebo způsob, jakým se data do systému zadávají. Bez průběžného monitoringu by podle autorů dokumentu mohlo docházet k tomu, že se chyby projeví až po delší době, kdy už mohly ovlivnit rozhodování o léčbě většího počtu lidí.

Druhým hlavním tématem zprávy je spravedlivé zacházení s pacienty. Komise zdůrazňuje, že AI systémy musí být navrženy a testovány tak, aby nezvýhodňovaly ani neznevýhodňovaly určité skupiny pacientů na základě věku, pohlaví, etnického původu nebo jiných charakteristik. Pokud jsou trénovací data nevyvážená nebo neodpovídají skutečné populaci pacientů, hrozí, že algoritmus bude méně přesný právě u skupin, které byly v datech zastoupeny méně. Doporučení proto počítají s pravidelným prověřováním, zda výsledky nástrojů nevykazují systematické rozdíly mezi jednotlivými skupinami.

Celkově doporučení směřují k vytvoření prostředí, ve kterém by nemocnice, výrobci technologií i regulační orgány měli jasně definovaná pravidla pro zavádění, provoz a kontrolu AI nástrojů. Komise tím reaguje na skutečnost, že umělá inteligence se v medicíně stále více používá nejen při analýze snímků, ale i při plánování léčby, odhadu rizik nebo administrativních úkonech spojených s péčí o pacienty.

Autoři zprávy zároveň zdůrazňují, že cílem není brzdit inovace, ale nastavit takové podmínky, aby nové technologie mohly být bezpečně a důvěryhodně integrovány do běžné klinické praxe. Postupné schvalování a systém hlášení výkonu mají podle komise pomoci odhalit případné problémy dříve, než se stanou rozsáhlejšími, a zároveň dát zdravotnickým zařízením nástroj, jak reálně ověřit, že daný systém funguje tak, jak byl navržen.

Zveřejněná doporučení nyní poslouží jako podklad pro další diskusi mezi zdravotnickými institucemi, regulátory a vývojáři technologií v Británii. Součástí navazujícího procesu má být i posouzení, jak doporučení promítnout do konkrétních postupů schvalování a kontroly zdravotnických AI produktů, tak aby odpovídaly aktuálnímu tempu vývoje v oboru.