Studie: zavádějící AI shrnutí výrazně zkreslují lidskou paměť na události

Nová studie vědců z Georgetown University a University of Washington ukazuje, že zavádějící AI-generovaná shrnutí mohou výrazně zkreslit paměť svědků a snížit přesnost jejich vzpomínek na skutečné události. Výzkum, jehož hlavní autorkou je Mattea Sim, byl zveřejněn 27. září 2026 a představen na deváté konferenci AAAI/ACM o umělé inteligenci, etice a společnosti (AIES). Na studii se dále podíleli Yael Eiger a Tadayoshi Kohno.

Autoři se zaměřili na otázku, do jaké míry mohou nepřesná shrnutí generovaná umělou inteligencí ovlivnit to, jak si lidé pamatují viděné události – tedy podobně, jako by fungovala svědecká výpověď. Výzkumu se zúčastnilo 331 lidí, kteří byli rozděleni do skupin podle toho, jaký typ shrnutí sledovaného obsahu dostali k přečtení.

Výsledky ukázaly zásadní rozdíl v přesnosti vzpomínek podle toho, zda účastníci četli přesné, nebo zavádějící shrnutí. U těch, kteří dostali přesné shrnutí, dosahovala přesnost vzpomínek 83,6 procenta. U skupiny, která četla zavádějící shrnutí, klesla přesnost na 44,8 procenta. Studie dále zjistila, že samotná AI-generovaná shrnutí často opomíjejí podstatné informace – celkem 51,6 procenta centrálních událostí bylo v testovaných shrnutích zcela vynecháno.

Podle autorů studie je klíčovým zjištěním fakt, že ke zkreslení paměti docházelo i v případech, kdy účastníci předem věděli, že text shrnutí napsal stroj, nikoliv člověk. Vědomí, že jde o výstup umělé inteligence, tedy samo o sobě lidi nechránilo před vlivem nepřesných nebo neúplných informací na jejich vzpomínky.

Mattea Sim k výsledkům výzkumu uvedla: AI je nový způsob, jak dodávat dezinformace, a má potenciál vytvářet falešné vzpomínky. Tato formulace naznačuje, že riziko spojené s používáním AI shrnutí nespočívá pouze v šíření nepravdivých informací jako takových, ale i v tom, jak tyto informace mohou přetvářet samotnou paměť lidí, kteří s nimi přijdou do kontaktu.

Zjištění mají široký dosah v době, kdy se nástroje pro automatické shrnování textu, videí či zvukových záznamů pomocí umělé inteligence stále více využívají v nejrůznějších oblastech – od zpravodajství přes právní prostředí až po každodenní komunikaci. Pokud taková shrnutí obsahují nepřesnosti nebo vynechávají důležité detaily, mohou podle autorů studie ovlivnit way, jakým si lidé následně vybavují původní obsah, a to i v situacích s vážnými důsledky, jako jsou svědecké výpovědi v trestním řízení nebo jiných právních kontextech.

Autoři studie tak upozorňují na potřebu obezřetnosti při nasazování AI nástrojů tam, kde přesnost a úplnost informací hraje klíčovou roli. Výzkum naznačuje, že spoléhání se na automaticky generovaná shrnutí bez ověření jejich obsahu s sebou nese riziko nejen šíření dezinformací, ale i trvalého zkreslení lidské paměti way, který si samotní účastníci nemusí uvědomovat.

Studie byla prezentována na konferenci AIES, která se zaměřuje na etické a společenské aspekty vývoje a nasazování umělé inteligence. Výsledky práce Mattey Sim, Yael Eiger a Tadayoshi Kohna tak přispívají do širší diskuse o odpovědném používání AI technologií a o nutnosti nastavení mechanismů, které by omezily potenciální negativní dopady nepřesných nebo neúplných AI výstupů na společnost.