Vědecký časopis stáhl článek kvůli AI halucinacím v citacích skutečných badatelů

Profesorka Harvard University Sarah S. Richardson byla loni na jaře kontaktována editorem odborného časopisu Disability Studies Quarterly kvůli falešnému citování její práce. Email od šéfredaktora časopisu jí dorazil 31. března. Richardson byla jednou ze šesti vědců, jejichž jména se objevila u citací, které ve skutečnosti neodpovídaly jejich publikacím.

Sporný text napsala Shawna Sheperd-Murtagh a časopis jej zveřejnil v březnu. Článek se zabýval tím, jak tvůrci obsahu se zdravotním postižením prakticky naplňují témata „radosti, touhy a kolektivní péče“. Stejného dne, kdy byl editor v kontaktu s Richardson, tedy 31. března, byl článek z časopisu stažen poté, co na problematické citace upozornil jeden ze čtenářů.

Text obsahoval celkem 117 poznámek pod čarou. Následná kontrola ukázala, že šest z nich vzniklo jako takzvané AI halucinace – tedy citace, které si generativní umělá inteligence fakticky vymyslela. Šéfredaktor časopisu Jeffrey A. Brune uvedl, že většina těchto chybných odkazů obsahovala jména skutečných a uznávaných vědců, kteří však nejsou autory děl, na něž mělo být v textu odkazováno. Jména těchto badatelů tak byla spojena s pracemi, které nikdy nenapsali.

Brune následně kontaktoval e-mailem všechny vědce, kterých se chybné citace týkaly, informoval je o situaci a omluvil se jim za vzniklou chybu. Autorka článku Sheperd-Murtagh odpovědnost za pochybení přiznala. Podle jejího vyjádření během revize textu experimentovala s generativní umělou inteligencí, což vedlo k zanesení smyšlených odkazů do finální verze práce.

Časopis Disability Studies Quarterly na incident zareagoval změnou redakční politiky. Nově vyžaduje, aby všechny citace v přijímaných článcích obsahovaly odkaz DOI, tedy jedinečný digitální identifikátor dokumentu, který umožňuje ověřit existenci a správnost citovaného zdroje. Cílem opatření je zabránit tomu, aby se podobný případ v budoucnu opakoval.

Případ dokládá, jak rostoucí využívání nástrojů generativní umělé inteligence při psaní a revizi akademických textů přináší nová rizika pro důvěryhodnost vědeckých publikací. Ačkoli k pochybení došlo během recenzního procesu, chyba nakonec pronikla až do finálně publikované verze textu a byla odhalena teprve díky pozornosti čtenáře, nikoli v rámci standardní redakční kontroly.