OpenAI testuje v EU vodotisky pro odhalení textů generovaných umělou inteligencí

Společnost OpenAI se v Evropské unii zaměřuje na otázku původu textu generovaného umělou inteligencí, přičemž klíčovým nástrojem jejího přístupu mají být vodotisky. Jde o technologii, která do vygenerovaného textu vkládá skrytý vzorec, podle něhož lze později ověřit, že daný obsah vznikl pomocí konkrétního AI modelu. Tento přístup souvisí s probíhající diskusí na úrovni EU o pravidlech týkajících se označování a identifikace obsahu vytvořeného umělou inteligencí.

Vodotisky podle OpenAI fungují tak, že se aplikují přímo při generování textu a detekce následně umožňuje ověřit jejich přítomnost. Technologie tak v praxi funguje jako způsob, jak zpětně rozpoznat, zda text vznikl díky modelu OpenAI, aniž by to muselo být na první pohled patrné běžnému čtenáři.

Přístup k nástrojům pro detekci vodotisků přitom OpenAI zatím neotevírá veřejnosti plošně. Firma v první fázi zpřístupňuje tuto technologii výzkumníkům, kteří se mohou blíže zabývat tím, jak spolehlivě dokáže systém rozpoznat text vygenerovaný umělou inteligencí a jaké jsou jeho limity. Tento krok naznačuje, že OpenAI chce nejprve ověřit fungování technologie v odborném prostředí, než by o jejím případném širším nasazení rozhodovala.

Téma původu textu generovaného umělou inteligencí úzce souvisí s unijní regulací v této oblasti. Evropská unie se dlouhodobě snaží nastavit pravidla, která by umožnila rozlišit obsah vytvořený člověkem od obsahu vygenerovaného AI systémy, a to mimo jiné kvůli obavám z šíření dezinformací, falešných zpráv nebo zneužití generovaných textů v akademickém prostředí či žurnalistice. Vodotisky představují jeden z technických nástrojů, které by k takovému rozlišení mohly přispět, byť zdaleka nejsou jediným diskutovaným řešením.

Výhodou vodotisků je, že na rozdíl od viditelného označení obsahu nenarušují čtenářský zážitek ani nevyžadují zásah do textu samotného – informace o původu je zakódována ve způsobu, jakým je text generován. Zároveň ale tento přístup přináší otázky ohledně spolehlivosti detekce, zejména v případech, kdy je text po vygenerování dále upravován, překládán nebo kombinován s lidsky psaným obsahem. Právě tyto aspekty mají být nyní předmětem zkoumání ze strany výzkumníků, kterým OpenAI přístup k detekčním nástrojům poskytuje.

Postoj OpenAI tak odpovídá širšímu trendu mezi vývojáři velkých jazykových modelů, kteří se snaží reagovat na tlak regulátorů i veřejnosti ohledně transparentnosti AI generovaného obsahu. Zatímco některé firmy sázejí na viditelné značky nebo metadata, OpenAI se v evropském kontextu profiluje právě důrazem na vodotisky jako technické řešení, které by mohlo fungovat v pozadí bez nutnosti měnit podobu výsledného textu.

Konkrétní časový plán, kdy by mohl být přístup k detekčním nástrojům rozšířen i mimo okruh výzkumníků, zatím OpenAI nezveřejnila. Stejně tak není známo, zda a jak by měla být tato technologie provázána s konkrétními legislativními požadavky Evropské unie, které se otázkou identifikace AI generovaného obsahu zabývají. Jisté je, že se jedná o jedno z témat, která budou hrát roli v dalším vývoji regulace umělé inteligence v Evropě, zejména ve vztahu k dohledatelnosti a ověřitelnosti online obsahu.

OpenAI tímto krokem naznačuje, že vnímá vodotisky jako jeden z klíčových prvků, kterými lze přispět k důvěryhodnosti digitálního prostředí v době, kdy je tvorba textů pomocí umělé inteligence stále rozšířenější. Omezení přístupu zatím pouze na výzkumníky zároveň ukazuje na opatrný přístup firmy, která si chce nejprve ověřit technickou spolehlivost řešení, než by uvažovala o jeho širším využití v praxi, ať už v souvislosti s regulací EU, nebo v rámci vlastních produktů.