Co je TokenEconomizer
TokenEconomizer je plugin v Pythonu a odborný článek od Microsoft Research, Microsoft Security a UC Berkeley, zveřejněný pod licencí Apache 2.0. Vychází z myšlenky, že programovací agent při práci ve stejném repozitáři pokaždé plýtvá tokeny podobným způsobem a že jeho dokončené relace ukazují, kde k tomu dochází. Popisuje tři mechanismy: mikrodovednosti, ořezávání nástrojů a ochranu před opakováním stejných chyb. Economizer ve VibeiDE tento návrh využívá pro vaše úkoly v Claude Code a Codex.
Poznatky o repozitáři: neopakujte stále stejné chyby
Agenti často při každém úkolu znovu zjišťují stejnou vlastnost repozitáře tím, že na ní narazí: pytest není v cestě pro vyhledávání příkazů, ale python -m pytest funguje, skript se jmenuje jinak nebo je nejprve nutné nastavit proměnnou. Když se ve třech úkolech objeví stejná chyba i stejný způsob, jak ji obejít, Economizer si tento poznatek uloží jako jeden krátký řádek. Dalším agentům ho předá, jakmile čtvrtý úkol potvrdí, že je stále potřeba. Agenti dostanou na začátku konverzace nejvýše čtyři poznatky, přibližně 150 tokenů. Poznatek, který přestane platit, se automaticky vyřadí a můžete ho také sami nechat zapomenout.
Ochrana před zacyklením: jeden podnět pro zaseknutý krok
Krok agenta, který stále upravuje kód a naráží na stejnou chybu, spotřebovává tokeny bez pokroku. Economizer se nejprve naučí, jak dlouho ve vašem projektu obvykle trvá úspěšně dokončený krok. Pokud krok Claude Code tuto dobu výrazně překročí, stále provádí úpravy a naráží na stejnou chybu, dostane jednu zprávu s žádostí o jiný postup. Pokud zůstane zaseknutý, upozorní vás na to řádek v úkolu. Economizer krok nikdy nezastaví. Zaseknutý krok Codex nedostane žádnou zprávu, zobrazí se pouze řádek pro vás.
Nepoužívané nástroje: menší požadavky
Popis každého nástroje, který má agent k dispozici, se znovu posílá s každým požadavkem. VibeiDE připojuje dva vlastní servery nástrojů, nástroje pro prohlížeč a nástroje pro úkoly, dohromady přibližně 3,400 tokenů. Pokud se některý z nich v projektu nepoužije během deseti promptů ve dvou úkolech, nové konverzace začnou bez něj. Prompt, který by ho mohl potřebovat, ho znovu zpřístupní. Totéž udělá tlačítko Znovu zpřístupnit na kartě Economizer. Nástroje, které jste si nainstalovali sami, ani vestavěné nástroje agenta se nikdy neodebírají.
Jeden přepínač, žádné nastavování
Economizer je součástí funkce Brain. Zapněte Brain pro projekt a začne číst; vypněte ho a nic se nečte ani nepředává. Karta Economizer v panelu Brain zobrazuje jednotlivé poznatky, co se ochrana před zacyklením naučila a které nástroje se vynechávají. Nabízí jen tlačítka Zapomenout a Obnovit u poznatků a Znovu zpřístupnit u nástrojů. Čte vlastní volání nástrojů jednotlivých agentů, nevolá žádný model a krátké poznatky i počty uchovává ve vašem počítači.
Co neslibuje
Microsoft u svého pluginu uvádí úspory tokenů z vlastního benchmarku. Tato čísla se vztahují na celý plugin, který také používá model k navrhování dovedností a posuzování zaseknutých kroků. VibeiDE části využívající model vynechává, proto žádnou velikost úspory neuvádíme. Na kartě si můžete ověřit, jaké poznatky agenti dostali, které kroky dostaly podnět ke změně postupu a které nástroje se do požadavku nezahrnuly.
Zdroje: TokenEconomizer na GitHubu, odborný článek o TokenEconomizer.