OpenAI aktualizovala Model Spec, zásady chování svých AI modelů

Společnost OpenAI zveřejnila aktualizovanou verzi dokumentu nazvaného Model Spec, tedy specifikace modelu, která popisuje, jak se mají její systémy umělé inteligence chovat. Text s názvem „An updated Model Spec for more capable and beneficial AI“ je podle autorů určen k tomu, aby schopnější modely vedl k dobrému úsudku, respektu k lidské autonomii a věrnosti lidskému záměru.

Model Spec není technickou příručkou v pravém slova smyslu, ale spíše souborem zásad a principů, které mají definovat žádoucí chování modelů. Aktualizace přichází ve chvíli, kdy se možnosti AI systémů rozšiřují a od modelů se očekává, že zvládnou složitější úkoly s menším dohledem. Právě proto se dokument soustředí na kvality, které s rostoucími schopnostmi nabývají na významu: schopnost rozumně posuzovat situace, ponechání rozhodování na lidech a snaha skutečně naplnit, co uživatel zamýšlí.

Z dostupných informací vyplývá, že aktualizovaná specifikace stojí na pěti základních hodnotách. Konkrétní znění těchto hodnot však v podkladech uvedeno není, a proto je zde nelze přesně vyjmenovat. Jasně je ale pojmenováno, na které oblasti se dokument zaměřuje. První z nich je úsudek, tedy schopnost modelu posoudit kontext a zvolit vhodný postup, aniž by se mechanicky držel pravidel. Druhou je lidská autonomie, čili zachování prostoru pro vlastní rozhodování lidí. Třetí je věrnost lidskému záměru, která znamená, že model má sledovat to, co člověk skutečně zamýšlí, nikoli pouze doslovné znění zadání.

Důraz na tyto tři oblasti odráží širší debatu o tom, jak mají pokročilé systémy jednat. U jednoduchých nástrojů stačí, když splní zadaný příkaz. U schopnějších modelů, které mohou samostatně plánovat a provádět více kroků, ale roste riziko, že budou postupovat přesně podle zadání, a přesto minou jeho smysl. Specifikace se proto snaží definovat, jak mají modely s takovými situacemi zacházet, a to tak, aby zůstaly užitečné a zároveň nepřebíraly rozhodnutí, která patří lidem.

Pojem lidské autonomie, v originále „agency“, v tomto kontextu odkazuje na schopnost lidí sami řídit své volby a jednání. Model by podle zaměření dokumentu neměl uživatele zbytečně usměrňovat ani za něj rozhodovat, pokud k tomu nemá důvod. Věrnost záměru pak doplňuje tuto zásadu z druhé strany: model má pozorně vnímat, co člověk opravdu chce, a podle toho jednat.

OpenAI Model Spec zveřejňuje jako veřejný dokument, což umožňuje odborné veřejnosti i běžným uživatelům seznámit se s tím, jaké chování se od jejích modelů očekává. Taková transparentnost je jedním z důvodů, proč společnost specifikaci vydává a opakovaně aktualizuje. Ze zveřejněných informací nelze usuzovat na podrobnosti o tom, které konkrétní části textu se oproti předchozí verzi změnily, ani jak se nové zásady promítnou do chování konkrétních produktů.

Aktualizace tak představuje spíše deklaraci směru než popis hotových technických změn. Autoři jejím prostřednictvím naznačují, že s rostoucími schopnostmi umělé inteligence nestačí řešit pouze to, co modely dokážou, ale i to, jakým způsobem tyto schopnosti používají. Sound judgment, tedy rozumný úsudek, je v tomto pojetí stejně důležitý jako výkon samotný.

Pro uživatele z toho plyne hlavně to, že se o chování AI systémů vede otevřená diskuse a že společnosti své zásady začínají formulovat veřejně. Jak přesně se nová verze specifikace projeví v praxi, ukáže až další vývoj a to, jak se s ní budou modely skutečně chovat. Samotný dokument je každopádně dostupný na stránkách OpenAI a zájemci si mohou přečíst celé znění včetně pěti základních hodnot, které tvoří jeho páteř.

Zveřejnění aktualizované verze zapadá do dlouhodobé snahy vývojářů umělé inteligence vymezit pravidla pro systémy, jež se stávají součástí každodenní práce i osobního života. Zda a jak se podobné specifikace stanou standardem napříč odvětvím, zatím otevřené zůstává.