Jižní Korea zavádí pravidla proti zneužívání AI ve vědeckých publikacích

Akademický svět čelí sílícímu tlaku umělé inteligence, který podle řady vědců prohlubuje již existující strukturální problémy vydavatelského systému. Jižní Korea na to reagovala zavedením nových pokynů, jež zakazují skryté výzvy vkládané do textů a omezují použití AI při práci s citlivými daty. Cílem opatření je zamezit manipulaci s recenzním procesem i úniku citlivých informací prostřednictvím nástrojů založených na jazykových modelech.

Podle jednoho z vědců, který se k situaci vyjádřil, se akademie potýká s „perverzními pobídkami“, které dlouhodobě „udržovaly vydavatelský průmysl, jak ho známe“. „AI nyní posouvá tento trend do Weimarského území, a články budou mít nulovou hodnotu,“ uvedl s odkazem na období hyperinflace, kdy hodnota peněz padala stejně rychle jako podle něj nyní hodnota publikovaných vědeckých textů.

Problém s neregulovaným používáním AI přitom nezůstává jen v rovině teoretických obav. Experiment provedený v rámci Mezinárodní konference o strojovém učení (ICML) ukázal, že 22,5 procenta recenzentů použilo jazykový model i přesto, že o to nebyli požádáni a dokonce jim to bylo výslovně zakázáno. Situaci komplikuje také enormní nárůst počtu příspěvků – konference ICLR se podle dostupných informací před uzávěrkou potýkala s téměř 50 000 přihláškami, což recenzní systémy fakticky zahltilo.

Rozsah problémů ve vědeckém publikování dokumentuje i Retraction Watch Database, jež eviduje více než 67 000 stažených článků. Zvlášť výrazně narostl počet stažení textů souvisejících s pandemií covidu-19, jejichž seznam se blíží 700 položkám. Databáze rovněž sleduje více než 50 případů hromadných rezignací z redakčních rad vědeckých časopisů, což signalizuje hlubší nespokojenost odborné komunity se stavem publikačního systému.

Kromě problémů s recenzním řízením a integritou dat se objevují i případy zneužití duševního vlastnictví. Podle dostupných informací mělo dojít k převodu tří terabajtů biomedicínských výzkumných dat v rámci vyšetřování týkajícího se ochrany obchodního tajemství na University of Texas MD Anderson Cancer Center. Případ upozorňuje na rizika spojená s uchováváním a sdílením rozsáhlých vědeckých datových souborů.

Zvláštní kapitolou je také komercializace vědeckého publikování. Podle zjištění desítky časopisů, které dříve fungovaly na principu otevřeného přístupu zdarma, nyní začaly autorům účtovat poplatky za publikaci. Tento trend prohlubuje obavy z takzvaných predátorských časopisů, které primárně sledují finanční zisk na úkor kvality recenzního procesu.

Na druhé straně se objevují i snahy o nápravu. Americké National Institutes of Health (NIH) oznámily investici ve výši 170 milionů dolarů určenou na podporu reprodukovatelnosti biomedicínského výzkumu. Cílem programu je posílit důvěryhodnost vědeckých výsledků a omezit počet studií, jejichž závěry se při opakování experimentů nepodaří potvrdit – problém, který dlouhodobě sužuje zejména oblasti medicíny a psychologie.

Kombinace rostoucího tlaku na publikační výkon, masového nasazení generativní AI a nedostatečné kontroly kvality podle kritiků vytváří prostředí, v němž tradiční mechanismy zajišťování vědecké důvěryhodnosti přestávají fungovat. Jihokorejský krok s regulací AI ve vědeckém publikování tak může být jedním z prvních signálů, že se regulátoři i akademické instituce začínají snažit situaci řešit systémověji, byť rozsah problémů – od stažených článků přes hromadné rezignace až po podezřelé úniky dat – naznačuje, že jde o dlouhodobý a komplexní proces.