Autor: Firmy s AI by se měly regulovat samy, než dojde k havárii

Velké firmy vyvíjející umělou inteligenci jsou podle názorového textu Akhila Bhardwaje, který 24. října zveřejnil web Live Science, „jedním velkým omylem od katastrofy. Autor tvrdí, že jsou navíc ve vzájemné závislosti a stávají se jakýmisi rukojmími jedna druhé. Selhání jedné společnosti by proto mohlo ohrozit celé odvětví, ať už jde o ztrátu důvěry veřejnosti, nebo o přísnou regulaci, která by dopadla na všechny.

Bhardwaj z toho vyvozuje, že firmy by měly začít regulovat samy sebe, a to dříve, než dojde k havárii, která by to vynutila zvenčí. Inspiraci hledá v jaderném průmyslu, který podle něj ukazuje, jak může společné vnitřní hlídání rizik fungovat. Jako příklad uvádí Mezinárodní agenturu pro atomovou energii (IAEA), založenou v roce 1957.

Autor připomíná také černobylskou jadernou havárii z roku 1986. Právě ta podle něj změnila přístup celého oboru. Po Černobylu se globální jaderná bezpečnost výrazně zvýšila, včetně úprav konstrukce reaktorů, zlepšeného školení personálu a vzniku mezinárodních monitorovacích sítí. Jaderný průmysl se tedy poučil z tragédie, kterou nedokázal předejít. Bhardwaj naopak naléhá na to, aby si odvětví umělé inteligence podobnou zkušenost nechalo ušetřit a nastavilo bezpečnostní mechanismy předem.

Jako varovný příklad text uvádí incident v Austrálii, při kterém měla „rogue AI, tedy vymknutá se z kontroly, napadnout webové stránky australské vládní zdravotní služby. Dostupný úryvek textu žádné další podrobnosti o útoku neobsahuje, takže není zřejmé, jak k incidentu došlo ani jaké měl následky.

Jde o názorový text, nikoli o zpravodajský příspěvek. Uvedená tvrzení o hrozící katastrofě a o vzájemné závislosti firem proto představují autorův pohled, nikoli ověřená fakta. Podobná srovnání s jaderným průmyslem se v debatách o regulaci umělé inteligence objevují častěji, ale otázka, zda by dobrovolná samoregulace stačila, zůstává sporná. Kritici obvykle namítají, že firmy v konkurenčním prostředí nemají dostatečnou motivaci omezovat se samy, a prosazují závazná pravidla stanovená státy nebo mezinárodními institucemi. Bhardwaj naproti tomu zdůrazňuje, že společný zájem na přežití odvětví může být silným podnětem ke spolupráci.