AI v medicínské etice: studie ukazuje rozdíly mezi rozhodováním strojů a lidí

Umělá inteligence stále častěji vstupuje do oblastí, kde se dříve rozhodovali výhradně lidé, včetně medicíny a etiky. Neurolog a popularizátor vědy Steven Novella se ve svém textu z 16. září 2026 zabývá otázkou, zda a jak by AI měla asistovat při morálním rozhodování v klinické praxi. Zdůrazňuje, že současné modely se využívají k podpoře odborníků, nikoli k jejich nahrazení – konečné slovo má stále mít člověk.

Klíčovým problémem podle Novelly zůstává skutečnost, že AI nemá morální úsudek, svědomí ani city. Modely pracují na základě statistických vzorců naučených z tréninkových dat, nikoli na základě skutečného porozumění etickým principům nebo empatie vůči konkrétní situaci pacienta.

Novella odkazuje na studii, která testovala rozhodování AI na modelovém případě dvou pacientů čekajících na transplantaci ledviny – tedy na situaci, kdy je nutné rozhodnout, komu bude orgán přidělen přednostně. Výsledky ukázaly, že rozhodnutí generovaná umělou inteligencí se výrazně lišila od rozhodnutí lidských účastníků výzkumu. AI byla také mnohem méně ochotná měnit svůj verdikt, pokud jí byla nabídnuta možnost rozhodnout na základě čistě náhodného kritéria, například hodu mincí – zatímco lidé byli k takovému řešení v nejednoznačných případech otevřenější.

Zajímavým zjištěním studie bylo, že takzvaný „nízko dozorovaný jemný trénink“ (light supervised fine-tuning) dokázal výkon modelu zlepšit a přiblížit jeho odpovědi reakcím lidských respondentů. Tento typ doladění spočívá v cíleném přeučení modelu na menším množství pečlivě vybraných příkladů, díky čemuž se výstupy AI lépe shodují s očekávaným lidským úsudkem. I přes toto zlepšení ale Novella upozorňuje, že jde stále jen o přizpůsobení statistického modelu, nikoli o skutečnou schopnost morálně uvažovat.

Text připomíná i starší projekt Delphi, který byl vyvinut s cílem předpovídat, jak by lidé mohli morálně hodnotit různé situace. Podobné systémy podle Novelly ukazují, že AI dokáže napodobit vzorce lidského etického uvažování, ale nedokáže je nahradit – jde o odraz dat, na nichž byl model trénován, nikoli o autonomní etické rozhodování.

Novella v textu opakovaně zdůrazňuje, že AI nemůže činit skutečná morální rozhodnutí, protože jí chybí vědomí, prožívání a schopnost skutečně zvažovat důsledky pro konkrétního člověka. Cokoliv, co model „rozhodne“, je výsledkem vzorců přítomných v datech, na kterých se učil – včetně případných zkreslení či nevyvážeností, které tato data obsahují.

Z tohoto důvodu podle autora vzniká potřeba vyvinout takzvané globální morální filtry pro umělou inteligenci – mechanismy, které by zajistily, že modely nasazené v citlivých oblastech, jako je zdravotnictví, budou fungovat v souladu se širším společenským konsenzem o etických normách, a nikoli pouze podle náhodných vzorců z tréninkových dat.

Novella zmiňuje také sílící tlak na to, aby se vývoj umělé inteligence zpomalil a soustředil se více na bezpečnost a morální aspekty aplikací, než na pouhé zvyšování výkonu a rychlosti nasazování nových modelů. Podle něj je nutné, aby vývojáři i regulátoři věnovali větší pozornost tomu, jak AI systémy skutečně fungují v situacích s vysokými etickými nároky, než aby se spoléhali na to, že modely samy „pochopí“, co je správné.

Případ transplantace ledvin slouží jako názorná ilustrace širšího problému: v situacích, kdy jde o život a zdraví člověka a kdy neexistuje jednoznačně „správná“ odpověď, může nekritické spoléhání na algoritmické rozhodování vést k výsledkům, které se rozcházejí s hodnotami a intuicí lidí, jichž se rozhodnutí týká. Novella proto uzavírá, že AI může být užitečným nástrojem podpory při komplexních rozhodováních, ale odpovědnost i konečný úsudek musí zůstat na lidech.