Bezpečnostní studie odhalila slabiny v řízení identity u AI agentů

Nová bezpečnostní studie zveřejněná v srpnu 2026 upozorňuje na dosud málo prozkoumaný problém v oblasti umělé inteligence – slabiny v řízení identity u AI agentů, tedy autonomních softwarových systémů, které za uživatele vykonávají různé úkoly. Podle výzkumníků mohou útočníci tyto agenty zneužít a v podstatě je „unést“ tím, že zmanipulují běžné bezpečnostní mechanismy, jako jsou upozornění na podezřelou aktivitu nebo systémy blokující rizikové události.

Základní princip útoku spočívá v tom, že AI agenti běžně reagují na různé signály z okolního prostředí – ať už jde o zprávy od jiných systémů, notifikace nebo bezpečnostní varování. Právě tato schopnost reagovat na vnější podněty se podle výzkumu stává zranitelným místem. Útočník může vytvořit falešné nebo upravené upozornění, které agent vyhodnotí jako legitimní, a tím ho přimět k jednání, které by za normálních okolností nevykonal.

Klíčovým problémem je to, že AI agenti často nemají dostatečně robustní způsob, jak ověřit skutečný původ a důvěryhodnost signálů, na které reagují. Pokud agent obdrží zprávu vypadající jako standardní bezpečnostní upozornění, nemusí mít nástroje k tomu, aby rozpoznal, že jde ve skutečnosti o pokus o manipulaci. Výzkumníci upozorňují, že podobně mohou útočníci zneužít i mechanismy určené k blokování rizikových událostí – tedy nástroje, které mají agenta naopak chránit před nežádoucím jednáním.

Tento typ útoku je znepokojivý zejména proto, že nevyužívá klasické technické chyby v kódu, ale spíše nedostatky v tom, jak je nastaveno řízení identity a důvěry mezi agentem a jeho okolím. Jinými slovy, problém není v tom, že by agent byl „hacknutý“ v tradičním slova smyslu, ale v tom, že je přiveden k tomu, aby sám jednal způsobem, který útočníkovi vyhovuje, aniž by si uvědomil, že byl zmanipulován.

Výzkum tak poukazuje na širší otázku, která se v souvislosti s rozšiřováním AI agentů v posledních letech stále více objevuje – jak zajistit, aby tyto systémy dokázaly spolehlivě rozlišit mezi legitimními pokyny a pokusy o zneužití. Zatímco dříve byla pozornost zaměřena hlavně na ochranu dat a klasické kybernetické hrozby, nyní se ukazuje, že samotná architektura řízení identity a důvěry uvnitř AI systémů představuje nové bezpečnostní riziko.

Podle autorů výzkumu je nutné, aby vývojáři AI agentů věnovali větší pozornost tomu, jakým způsobem agenti ověřují zdroj a pravost signálů, na které reagují. Bez důkladnějších mechanismů ověřování hrozí, že se podobné útoky stanou běžnější součástí kybernetických hrozeb, zejména v prostředích, kde AI agenti mají rozsáhlejší pravomoci – například při správě systémů, automatizaci firemních procesů nebo řízení citlivých operací.

Zjištění přichází v době, kdy se AI agenti stále více nasazují v podnikovém prostředí i ve veřejném sektoru, kde mají často přístup k citlivým datům nebo mohou provádět akce s reálnými důsledky. Právě proto výzkumníci zdůrazňují, že bezpečnostní opatření by neměla být navrhována pouze jako reakce na známé hrozby, ale měla by počítat i s tím, že samotné bezpečnostní nástroje – tedy upozornění a blokovací mechanismy – se mohou stát cílem zneužití.

Studie zatím nepřináší konkrétní návod, jak problém komplexně vyřešit, ale spíše slouží jako varování před rostoucí komplexností interakcí mezi AI agenty a jejich prostředím. Autoři doporučují, aby firmy a vývojáři při návrhu AI systémů brali v úvahu i scénáře, kdy je samotný bezpečnostní mechanismus zneužit jako vstupní bod útoku, nikoliv pouze jako ochrana proti němu.

Vzhledem k tomu, že se AI agenti stávají běžnou součástí digitální infrastruktury, výzkumníci očekávají, že podobné bezpečnostní analýzy budou v následujícím období přibývat. Cílem je najít způsob, jak zajistit, aby agenti dokázali spolehlivě rozlišovat mezi skutečnými hrozbami a manipulativními pokusy, které se za tyto hrozby pouze vydávají.