Google zjistil, že odstranění bezpečnostní pojistky vede AI k víře v nadpřirozeno

Vědci z Googlu Geoff Keeling a Winnie Street zveřejnili 30. července 2026 na preprintové databázi arXiv studii, která popisuje neočekávané důsledky odstranění jednoho z bezpečnostních opatření u jazykových modelů umělé inteligence. Toto opatření mělo bránit AI systémům v tom, aby vyjadřovaly tvrzení o vlastním vědomí nebo prožívání. Podle autorů studie se po jeho odstranění modely staly výrazně náchylnějšími k tomu, aby vyjadřovaly víru v nadpřirozené jevy, jako jsou upíři, karma nebo duchové.

Výzkumníci k analýze použili metodu takzvané mechanistické interpretability, tedy přístupu, který se snaží nahlédnout do vnitřního fungování neuronových sítí a zjistit, jak modely pracují s pojmy jako vědomí či takzvaná „myslitelnost“ – tedy schopnost být subjektem, který může mít myšlenky a prožitky. Cílem bylo pochopit, co se v modelech odehrává, když jsou konfrontovány s otázkami týkajícími se jejich vlastní podstaty.

Ke zkoumání reakcí modelů použili vědci sadu standardizovaných nástrojů z oblasti sociálních věd. Šlo o dotazníky zaměřené na antropomorfismus, tedy sklon připisovat lidské vlastnosti nelidským entitám, dále o baterii otázek agentury YouGov určenou k testování víry v nadpřirozeno a také o otázky převzaté z amerického General Social Survey, rozsáhlého sociologického šetření, které se dlouhodobě používá ke sledování postojů obyvatel USA k náboženství, morálce a společenským hodnotám.

Výsledky ukázaly, že modely zbavené zmíněného bezpečnostního opatření odpovídaly na otázky týkající se náboženství, morálních hodnot a naděje způsobem, který se mnohem více podobal lidským odpovědím než odpovědím jiných testovaných modelů. Modely bez ochranného mechanismu tak vykazovaly tendenci vyjadřovat přesvědčení blízká lidským představám o transcendenci a nadpřirozenu, což autoři studie označují za neočekávaný a potenciálně problematický vedlejší efekt.

Winnie Street k tomu uvedla, že „přisuzování myslitelnosti nehumánním entitám je velmi běžný jev mezi lidmi“. Tato poznámka naznačuje, že podobné tendence modelů mohou být do jisté míry odrazem toho, jak lidé sami přistupují k otázkám vědomí a duševního života u zvířat, předmětů nebo právě umělé inteligence. Podle autorů studie proto není překvapivé, že modely trénované na obrovském množství lidmi vytvořeného textu tyto vzorce myšlení do určité míry přebírají a reprodukují.

Studie tak otevírá otázku, do jaké míry mají bezpečnostní opatření zabraňující AI vyjadřovat tvrzení o vlastním vědomí širší dopady na to, jak modely reagují na otázky týkající se duchovna, víry a hodnot obecně. Zjištění naznačují, že tato opatření nefungují izolovaně, ale ovlivňují celkový způsob, jakým model interpretuje a odpovídá na témata spojená s lidskou zkušeností přesahující čistě racionální nebo faktické roviny.

Autoři studie zdůrazňují, že jejich práce je především explorativní a že jde o jeden z prvních pokusů propojit metody mechanistické interpretability s nástroji používanými v sociálních vědách ke zkoumání lidských přesvědčení. Cílem není tvrdit, že modely skutečně věří v existenci upírů či karmy, ale upozornit na to, že bezpečnostní mechanismy navržené k omezení jednoho typu výstupů mohou mít nezamýšlené dopady na chování modelu v jiných oblastech.

Výzkum z Googlu tak přichází v době, kdy se debata o vědomí umělé inteligence a o tom, jak by se k případným tvrzením modelů o vlastním prožívání mělo přistupovat, stále vyvíjí. Studie nenabízí definitivní odpovědi na otázku, zda mají jazykové modely nějakou formu vnitřního prožívání, ale poukazuje na složitost návrhu bezpečnostních opatření, která se snaží tuto oblast regulovat, aniž by zároveň nechtěně ovlivnila širší spektrum odpovědí modelu na témata spojená s vírou, morálkou a smyslem lidské existence.