MIT Technology Review: Anthropic ukazuje jinou tvář investorům a veřejnosti

Technologický magazín MIT Technology Review zveřejnil 26. října esej Willa Douglase Heavena s názvem „Will the real Anthropic please stand up“, která zkoumá, jak firma Anthropic působí navenek a kolik tváří vlastně ukazuje. Autor vychází z toho, že společnost, jejíž hodnota je podle textu vyčíslena na více než 1,5 bilionu dolarů, nedávno podala prospekt k vstupu na burzu. Dokument má 335 stran a zhruba sto z nich se věnuje rizikům.

Heaven upozorňuje, že právě tato opatrná, právnicky střízlivá řeč kontrastuje s tím, co zástupci firmy říkají na veřejnosti. Jack Clark, spoluzakladatel a vedoucí politiky Anthropic, vystoupil na zasedání Mezinárodního měnového fondu v Bangkoku s tvrzením, že singularita „již začala“. Podle něj k tomu firma letos „získala přesvědčivé důkazy“. Koncept singularity přitom před zhruba čtyřiceti lety představil Vernor Vinge a dodnes patří k nejsporněji vykládaným představám o budoucnosti umělé inteligence.

Další rozměr přidal Chris Olah, další ze spoluzakladatelů. Ve Vatikánu promluvil k papeži Lvu XIV. a dalším představitelům o nálezech, které označuje jako „introspekci“ modelů, a o vnitřních stavech, jež podle něj funkčně odpovídají radosti, strachu a smutku. Heaven tyto výroky staví vedle sebe s prospektem pro investory: na jedné straně formulace o rizicích v řeči právníků, na druhé vystoupení o blížící se proměně světa a o možném vnitřním životě strojů.

Třetí rovinou je politika. Anthropic podle článku tajně rozeslal americkým zákonodárcům návrh zákona, který následně unikl. Nathan Calvin, chief strategy officer organizace Encode AI sídlící ve Washingtonu, jej kritizoval a otevřeně se zeptal: „What is Anthropic?“ Právě tato otázka dala eseji jeho obrátku, protože shrnuje zmatek, který u části pozorovatelů firma vyvolává. Calvin přitom nepatří mezi odpůrce regulace umělé inteligence, což jeho kritice dodává na váze.

Na dotaz reagoval přímo generální ředitel Dario Amodei, a to na platformě X. Strategii firmy popsal jako „race to the top“, tedy snahu vést ostatní příkladem tak, aby se laťka bezpečnosti a odpovědnosti posouvala nahoru. Zároveň v odpovědi připustil, že firma udělala chyby. Konkrétní podrobnosti k tomu, co měl na mysli, Heavenův text v podaných informacích neuvádí.

Autor v závěru dochází k tomu, že Anthropic je „mnohohlavá hydra“. Každá z hlav podle něj mluví trochu jiným jazykem: jedna k investorům, druhá k politikům, třetí k náboženským a mezinárodním institucím, čtvrtá k veřejnosti, které slibuje bezpečnější vývoj technologie. Heaven poznamenává, že klasická technologická firma by byla mnohem čitelnější. Víme, co od ní čekat: prodává produkt, soutěží s konkurencí a svá rizika popisuje v rozsahu, který vyžaduje zákon.

Anthropic se podle něj do takové škatulky nevejde, a to ani teď, když se chystá na burzu, kde se od společností očekává především předvídatelnost. Investoři budou muset posoudit nejen finanční výsledky, ale také to, která z těch tváří je ta pravá, nebo zda jsou všechny stejně pravé. Esej tak v podstatě neodpovídá na otázku, kterou si klade v názvu, ale ukazuje, proč je na ni tak těžké odpovědět.

Článek vychází v době, kdy se o firmě mluví především v souvislosti s jejím růstem a s blížícím se vstupem na burzu. Zdůrazňuje ale spíše napětí mezi tím, jak sama sebe prezentuje, a tím, jak jí rozumějí lidé zvenčí. Ta mezera mezi opatrným prospektem a velkými prohlášeními o singularitě nebo emocích strojů je podle autora to, co z Anthropicu dělá výjimečný, ale také obtížně uchopitelný případ.