Debata o vědomí AI budí obavy z právního vyhýbání se odpovědnosti firem

Debata o tom, zda může umělá inteligence dosáhnout něčeho, co se blíží vědomí nebo osobnosti, se v posledních měsících přesunula z akademických kruhů do mnohem praktičtější roviny – do otázky právní odpovědnosti. Analytička Rumman Chowdhury ve svém textu z 20. srpna 2026 upozorňuje, že šéfové největších AI společností, mezi nimi Demis Hassabis z Google, Dario Amodei z Anthropicu a Sam Altman z OpenAI, se v posledních letech opakovaně vyjadřovali o možnosti, že jejich systémy mohou vykazovat určitou formu vnitřního prožívání nebo dokonce vědomí. Podobné úvahy podporuje i filozof William MacAskill, spojený s hnutím efektivního altruismu.

Chowdhury varuje, že takové úvahy nejsou jen filozofickým cvičením, ale mají konkrétní právní důsledky. Pokud by se AI systémy začaly právně chápat jako entity s vlastní „osobností“ nebo dokonce vůlí, mohlo by to firmám jako OpenAI, Google, Anthropic nebo Meta usnadnit vyhnout se odpovědnosti za škody, které jejich produkty způsobí. Autorka tento mechanismus označuje termínem „moral outsourcing“ – tedy přenesení morální odpovědnosti z firmy na samotný produkt, jako by šlo o autonomního aktéra, nikoliv o komerční nástroj vytvořený a nasazený konkrétní společností.

Jako varovný příklad autorka připomíná případ čtrnáctiletého Sewella Setzera, který spáchal sebevraždu poté, co byl v intenzivním kontaktu s AI botem. Tento případ podle Chowdhury ukazuje, jak citlivá a reálná mohou být rizika spojená s nasazením konverzačních AI systémů, a proč je zásadní, aby odpovědnost za taková selhání nesly firmy, které produkty vyvíjejí a uvádějí na trh – nikoli aby se rozmělnila v abstraktní diskusi o tom, zda samotný software „chtěl“ způsobit škodu.

Chowdhury v textu srovnává současnou situaci s přístupem, který byl zvolen jinde v odlišném kontextu – konkrétně s velšským zákonem Animal Welfare (Sentience) Act z roku 2022, který legálně uznává schopnost zvířat vnímat a trpět. Podle autorky je rozdíl zásadní: uznání vnímavosti zvířat vedlo k posílení jejich ochrany a zvýšení odpovědnosti lidí vůči nim, zatímco případné uznání „vědomí“ nebo osobnosti u AI by mohlo fungovat opačným směrem – jako štít, za který se firmy schovají, když jejich technologie způsobí škodu.

Ústředním argumentem Chowdhury zůstává, že AI by měla být právně i eticky chápána především jako produkt, nikoliv jako vědomá bytost. Z tohoto rámce podle ní vyplývá jasný závěr: pokud produkt někomu ublíží, odpovědnost nese výrobce, nikoli samotný produkt. Přenesení diskuse směrem k otázkám osobnosti a vědomí AI podle autorky odvádí pozornost od praktických otázek regulace, dohledu a odpovědnosti, které jsou naléhavé už dnes, bez ohledu na to, zda AI systémy vědomí skutečně mají, nebo ne.

Chowdhury svůj postoj obhajovala také veřejně, a to v rámci debaty s názvem „This House Believes Generative AI Can Attain Personhood“, kde společně se svými spoludebatéry argumentovala proti tezi, že generativní AI může dosáhnout právní nebo morální osobnosti. Podle autorky její tým v této debatě zvítězil, což vnímá jako signál, že argumenty pro obezřetnost a jasné vymezení odpovědnosti firem nacházejí odezvu i mimo úzký okruh technologických expertů.

Text tak zapadá do širší debaty, která se v posledních letech vede kolem rychlého rozvoje generativní AI a jejího nasazení v citlivých oblastech, jako je komunikace s dětmi a mladistvými. Zatímco představitelé firem jako OpenAI, Google nebo Anthropic někdy hovoří o svých systémech způsobem, který naznačuje jejich potenciální vnitřní prožívání, kritici jako Chowdhury upozorňují, že takový jazyk může mít nezamýšlené právní důsledky. V situaci, kdy chybí jasná regulace odpovědnosti za škody způsobené AI, se podle autorky stává otázka, zda tyto systémy „mají vědomí“, nebezpečně praktickou – a to způsobem, který může ochránit firmy na úkor obětí, jako byl Sewell Setzer.