OpenAI zveřejnila plán na ochranu mladých uživatelů AI v Austrálii

Společnost OpenAI představila dokument nazvaný Australian Youth Safety Blueprint, tedy plán zaměřený na bezpečnější využívání umělé inteligence mladými lidmi v Austrálii. Materiál vznikl jako reakce na rostoucí obavy rodičů, pedagogů i regulátorů ohledně toho, jak umělá inteligence ovlivňuje děti a dospívající, a to jak z hlediska rizik, tak z hlediska příležitostí, které tyto technologie mohou přinášet.

Plán je postaven na šesti pilířích, které mají společně vytvořit rámec pro bezpečnější a odpovědnější zkušenost mladých uživatelů s nástroji umělé inteligence. OpenAI v dokumentu zdůrazňuje, že cílem není mladé lidi od technologie izolovat, ale naopak jim pomoci naučit se s ní pracovat tak, aby z ní měli užitek a zároveň byli chráněni před potenciálními riziky, jako je nevhodný obsah, manipulace nebo nadměrné spoléhání se na AI systémy při rozhodování.

Součástí blueprintu jsou opatření týkající se technických nastavení, která by měla omezit přístup k nevhodnému nebo škodlivému obsahu. OpenAI zmiňuje i potřebu transparentnosti vůči rodičům a pečovatelům, kteří by měli mít možnost lépe rozumět tomu, jak jejich děti umělou inteligenci využívají a jaké nástroje mají k dispozici pro nastavení bezpečnějšího prostředí. Dalším bodem plánu je spolupráce se školami a vzdělávacími institucemi, které by měly dostat podporu při začleňování AI nástrojů do výuky způsobem, jenž respektuje potřeby a zranitelnost mladších žáků a studentů.

Dokument se rovněž věnuje otázce mediální a digitální gramotnosti. OpenAI v něm uvádí, že mladí lidé by měli být vedeni k tomu, aby dokázali kriticky hodnotit informace generované umělou inteligencí a rozuměli omezením těchto systémů. To zahrnuje i schopnost rozpoznat, kdy se jedná o obsah vytvořený AI a kdy jde o informace pocházející z ověřených lidských zdrojů.

Plán dále počítá se zapojením odborníků na dětskou psychologii a bezpečnost online prostředí, kteří by měli pomoci formulovat konkrétní doporučení a standardy pro vývoj produktů určených mladším uživatelům. OpenAI v této souvislosti hovoří o průběžné spolupráci s australskými institucemi a organizacemi, které se dlouhodobě věnují ochraně dětí v digitálním prostoru.

Blueprint klade důraz také na mechanismy zpětné vazby, díky nimž by mladí uživatelé, jejich rodiče i pedagogové měli možnost upozorňovat na problematický obsah nebo chování systémů a přispívat tak k jejich postupnému zlepšování. OpenAI v dokumentu deklaruje, že bude nastavení a opatření pravidelně vyhodnocovat a upravovat na základě získaných poznatků a vývoje technologií.

Firma zdůraznila, že Austrálie byla vybrána jako jedna z prvních zemí pro představení takto komplexního plánu vzhledem k tomu, že tamní regulátoři a veřejnost dlouhodobě věnují zvýšenou pozornost otázkám bezpečnosti dětí online. Austrálie v posledních letech patří mezi země, které aktivně diskutují o regulaci přístupu mladistvých k digitálním platformám a technologiím, což z ní podle OpenAI dělá vhodné prostředí pro pilotní zavádění podobných opatření.

Cílem celého plánu je podle společnosti nejen minimalizovat rizika spojená s používáním umělé inteligence mladými lidmi, ale také jim pomoci rozvíjet dovednosti potřebné pro budoucnost, v níž budou AI nástroje běžnou součástí vzdělávání, práce i každodenního života. OpenAI v této souvislosti mluví o snaze najít rovnováhu mezi ochranou a posílením postavení mladé generace, tedy o přístupu, který mladým lidem umožní bezpečně těžit z výhod technologie, aniž by byli vystaveni jejím negativním dopadům.

Australian Youth Safety Blueprint by měl podle vyjádření společnosti sloužit i jako inspirace pro podobné iniciativy v dalších zemích, kde OpenAI působí. Firma naznačila, že získané zkušenosti a zpětnou vazbu z Austrálie plánuje využít při formulování obecnějších zásad ochrany mladistvých uživatelů, které by mohly být postupně aplikovány i v jiných regionech.