Austrálie po útoku na Medicare zvažuje povinné hlášení AI incidentů

Australská vláda zvažuje zavedení povinného hlášení incidentů souvisejících s umělou inteligencí poté, co čelila útoku na vlastní systémy spojené s veřejným zdravotním pojištěním Medicare. Kybernetický incident, který zasáhl citlivou infrastrukturu státní správy, otevřel otázku, zda současná pravidla pro dohled nad nasazováním umělé inteligence ve veřejném i soukromém sektoru dostatečně pokrývají rizika spojená s touto technologií.

Podle informací, které v posledních týdnech kolují mezi australskými úředníky a odborníky na kybernetickou bezpečnost, by se nový systém hlášení měl týkat společností, které vyvíjejí nebo nasazují pokročilé modely umělé inteligence. Cílem je získat ucelenější přehled o tom, kdy a jak dochází k selháním, zneužití nebo bezpečnostním incidentům spojeným s AI systémy, a to jak v soukromých firmách, tak ve státních institucích.

Útok na systémy Medicare, který podnítil současnou diskusi, podle dostupných informací odhalil zranitelnosti v propojení mezi klasickou IT infrastrukturou a nástroji využívajícími umělou inteligenci. Vláda incident vyhodnocuje jako varovný signál, že rostoucí míra automatizace a nasazování AI v citlivých oblastech, jako je zdravotnictví, zvyšuje riziko rozsáhlejších dopadů v případě bezpečnostního selhání.

Austrálie se tak přidává k zemím, které zvažují nebo již zavádějí přísnější regulatorní rámce pro společnosti pracující s pokročilou umělou inteligencí. Diskuse o povinném hlášení incidentů probíhá v širším kontextu snahy vlády nastavit pravidla, která by zajistila transparentnost při vývoji a nasazování AI technologií, aniž by přitom nadměrně brzdila inovace v tomto odvětví.

Zástupci vlády zdůrazňují, že jakýkoli nový regulační rámec by měl být navržen tak, aby reagoval na konkrétní rizika, nikoli aby představoval plošné omezení pro celý sektor. Součástí úvah je i otázka, jaké typy incidentů by měly podléhat povinnému oznámení – zda půjde pouze o závažná bezpečnostní selhání s dopadem na občany, nebo i o méně závažné technické chyby a případy zneužití systémů.

Zavedení povinného hlášení by mělo napomoci také koordinaci mezi jednotlivými vládními agenturami a soukromým sektorem. V současnosti podle kritiků chybí jednotný mechanismus, který by umožnil rychle sdílet informace o nově zjištěných hrozbách souvisejících s umělou inteligencí napříč institucemi a firmami.

Debata o regulaci AI v Austrálii probíhá již delší dobu, útok na systémy Medicare ji však podle pozorovatelů výrazně urychlil. Vláda dosud nepředstavila konkrétní legislativní návrh, uvedla však, že povinnost hlášení incidentů patří mezi opatření, která aktuálně posuzuje jako jednu z možných reakcí na rostoucí bezpečnostní rizika spojená s nasazováním umělé inteligence ve veřejné správě i v komerčním sektoru.

Odborníci na kybernetickou bezpečnost upozorňují, že podobné incidenty mohou mít dopad nejen na funkčnost státních systémů, ale i na důvěru veřejnosti v digitalizaci veřejných služeb. Zdravotní data a systémy spojené s Medicare patří mezi nejcitlivější oblasti australské státní infrastruktury, a proto je jakékoli narušení jejich bezpečnosti vnímáno jako závažný problém s potenciálně dlouhodobými následky.

Vláda zároveň naznačila, že při přípravě případné legislativy bude přihlížet ke zkušenostem a regulatorním přístupům jiných zemí, které se s podobnými výzvami potýkají. Cílem má být nastavení rovnováhy mezi podporou technologického rozvoje a ochranou občanů i státních institucí před riziky, která nasazování umělé inteligence přináší.

Konkrétní podoba případných pravidel, včetně toho, zda a jak budou firmy sankcionovány za nedodržení ohlašovací povinnosti, zatím není známa. Vláda avizovala, že další kroky budou záviset na výsledcích probíhajícího vyšetřování útoku na systémy Medicare a na konzultacích s odborníky i zástupci technologického sektoru.