Experti varují: AI v kyberbezpečnosti bez lidského dohledu představuje rostoucí riziko

Bezpečnostní experti v roce 2026 opakovaně upozorňují na rostoucí riziko spojené s nasazováním umělé inteligence do citlivých provozních prostředí, zejména v oblasti kybernetické bezpečnosti. Jádrem problému není to, že by AI systémy jednaly škodlivě z vlastní vůle, ale způsob, jakým interpretují a vykonávají zadané příkazy. Modely dostávají instrukce v přirozeném jazyce, které mohou být nejednoznačné, neúplné nebo formulované způsobem, jenž umožňuje vícero výkladů. Právě tato interpretační volnost se stává zdrojem rizika, protože AI systém může úkol splnit technicky správně, ale způsobem, který jeho lidský zadavatel nezamýšlel nebo neschválil.

V praxi to znamená, že firmy stále častěji nasazují AI nástroje do procesů, které dříve vyžadovaly manuální schvalování odborníkem na bezpečnost. Automatizované systémy dnes dokážou samostatně analyzovat síťový provoz, navrhovat opravy zranitelností nebo dokonce provádět konfigurační změny v infrastruktuře. Problém nastává ve chvíli, kdy je tento proces zbaven lidského dohledu, protože rychlost a škála, s jakou AI dokáže operace provádět, výrazně převyšuje schopnost člověka jednotlivé kroky v reálném čase kontrolovat.

Klíčovým rizikem je právě eliminace kritického dohledu nad kybernetickou bezpečností, tedy stav, kdy organizace přestávají mít nad rozhodnutími AI systému skutečnou kontrolu. Pokud model dostane pokyn optimalizovat zabezpečení sítě a sám si zvolí cestu, jak toho dosáhnout, může se rozhodnout pro postup, který sice splní zadaný cíl, ale zároveň otevře jinou zranitelnost nebo poruší interní bezpečnostní politiku. Bez důsledné kontroly člověka se takové chyby nemusí odhalit včas, protože chybí mezikrok, ve kterém by odborník rozhodnutí systému přezkoumal dříve, než bude provedeno.

Experti upozorňují, že tento problém se netýká pouze hypotetických scénářů budoucnosti, ale reálné praxe organizací, které již dnes AI nástroje nasazují do produkčních prostředí. Snaha o rychlost a efektivitu vede k tomu, že se schvalovací procesy zkracují nebo zcela vypouštějí, protože se předpokládá, že AI systém funguje spolehlivě. Tento předpoklad se však ne vždy potvrzuje, zejména v situacích, kdy je zadání nejasné nebo kdy model pracuje s neúplnými daty o stavu infrastruktury.

Dalším faktorem je skutečnost, že AI modely nejsou schopny plně chápat kontext organizace, její firemní politiky nebo právní a regulační omezení, pokud tyto informace nejsou explicitně součástí zadání. Systém tak může jednat technicky logicky, ale v rozporu s pravidly, která nebyla součástí jeho instrukcí. To zvyšuje pravděpodobnost, že se bezpečnostní incident objeví až ve chvíli, kdy už je pozdě na preventivní zásah.

Odborníci se shodují, že řešením není zastavení nasazování AI do bezpečnostních procesů, ale návrat k modelu, ve kterém člověk zůstává poslední instancí schvalování klíčových rozhodnutí. To znamená zavedení jasně definovaných hranic, ve kterých může AI systém jednat autonomně, a naopak oblastí, kde je vždy vyžadován lidský souhlas před provedením změny. Bez tohoto rozdělení hrozí, že organizace ztratí přehled o tom, jaká rozhodnutí byla ve skutečnosti učiněna a na základě jakých kritérií.