Novinky | AI 21. 11. 2026

Google přidal do Gemini API Tool Retrieval pro úsporu tokenů u agentů

Google Přidal Do Gemini Api Tool Retrieval Pro Úsporu Tokenů U Agentů

Google přidal do Gemini API funkci Tool Retrieval, která má řešit jeden z typických problémů při škálování agentů: s rostoucím počtem nástrojů roste i objem dat, které je nutné posílat modelu v každém promptu. Novinka je zatím ve stavu preview a je dostupná v Interactions API. O zavedení informovali v článku z 19. listopadu Lucia Loher, produktová manažerka Gemini API, a Nora Kassner, výzkumná pracovnice Google DeepMind.

Princip je jednoduchý. Místo odesílání celé knihovny nástrojů s kompletními parametrovými schématy se tato schémata načítají až podle potřeby. Model sice vidí název a popis každého odloženého nástroje, ale parametrová schémata zůstávají mimo kontext, dokud je skutečně nepotřebuje. Cílem je snížit počet vstupních tokenů a latenci a zároveň udržet přesnost výběru nástrojů, když agenti pracují s rozsáhlou sadou funkcí.

Zapnutí funkce je záležitostí několika úprav v požadavku. Vývojář do něj přidá nástroj typu tool_search a u nástrojů, jejichž načtení se má odložit, nastaví parametr defer_loading: true. Pokud model v průběhu práce zjistí, že určitý nástroj potřebuje, požádá o něj podle názvu. API následně načte jeho úplné schéma a model může funkci zavolat. Celý tento postup proběhne v rámci jednoho požadavku. Příkladem v článku je scénář, kdy zákazník žádá o vrácení 40 dolarů za objednávku A-1042, a model si proto dohledá potřebný nástroj pro zpracování refundace. V ukázkovém kódu je použit model „gemini-4-hydrogen“.

Pro vývojáře je důležité, že jednotlivé kroky jsou dohledatelné. Volání vyhledávání, jeho výsledek i samotné zavolání funkce se objeví v poli interaction.steps pod názvy tool_search_call, tool_search_result a function_call. To podle autorů usnadňuje ladění, protože je zřejmé, jak se model k danému nástroji dostal.

Vyhledávání probíhá ve výchozím režimu na straně serveru. Gemini ho provádí samo, takže vývojář nemusí budovat ani hostovat vlastní index. Funkce funguje společně s prefix cachingem a lze ji využít i se vzdálenými MCP servery. U nich se odložené načítání zapíná nastavením defer_loading: true přímo na nástroji typu mcp_server.

Kdo chce vyhledávání řídit sám, může zvolit client-side retrieval. V takovém případě se nástroj tool_search deklaruje s hodnotou execution: client a samotné hledání běží v aplikaci vývojáře. Tato varianta nabízí větší kontrolu, ale přidává jedno kolo komunikace na každé vyhledávání, což je třeba zohlednit u aplikací citlivých na latenci.

Co se týče ceny, Tool Retrieval nemá samostatný poplatek. Platí se standardní sazby za vstupní a výstupní tokeny použitého modelu. Úspora tak může plynout přímo z toho, že se do promptu nevkládá celá knihovna schémat, ale jen ta část, která je pro daný úkol nezbytná.

Funkce podporuje modely Gemini 3.6 a novější, včetně všech modelů řady Gemini 4, a to v rámci Interactions API. Zájemci najdou další informace v dokumentaci, v přehledu porovnání modelů a v diskusích na komunitním Discordu, na které Google v článku odkazuje.

Nasazení podobného mechanismu odpovídá širšímu trendu v oblasti agentních aplikací. S tím, jak se agenti propojují s desítkami či stovkami nástrojů, se z jejich popisů stává významná část kontextu. Každé schéma zabírá tokeny, prodlužuje odezvu a může model zahltit natolik, že hůře vybírá. Odložené načítání schémat tento problém řeší tím, že model nejprve pracuje jen s lehkým přehledem nástrojů a detaily si vyžádá až ve chvíli, kdy je opravdu potřebuje.

Vzhledem k tomu, že jde o preview, je možné, že se podoba funkce ještě změní. Vývojáři, kteří s ní chtějí experimentovat, by proto měli sledovat aktuální dokumentaci a případné změny v Interactions API.

Našli jste v článku chybu?

Publikováno: 21. 11. 2026

Kategorie: Novinky | AI