Dokumentacja
TokenEconomizer
Jak wbudowaliśmy TokenEconomizer w moduł Brain w VibeiDE
Economizer w VibeiDE to nasza własna implementacja opublikowanego projektu TokenEconomizer autorstwa Microsoft Research, Microsoft Security i UC Berkeley, a nie sama wtyczka. Nie wywołuje modeli, niczego nie zapisuje w Twoim repozytorium i niczego nie ładuje, gdy Brain jest wyłączony dla projektu. Ta strona wyjaśnia, co zachowaliśmy, co zmieniliśmy i co pominęliśmy.
Implementacja projektu, a nie wtyczka
TokenEconomizer jest dostarczany jako wtyczka w Pythonie, która zapisuje dane w repozytorium i część decyzji powierza modelowi. Moduł Brain w VibeiDE ma bardziej rygorystyczne założenia: bez wywołań modelu, bez klucza, bez Pythona, bez zapisywania plików w Twoim repozytorium i bez ładowania czegokolwiek, gdy jest wyłączony dla projektu. Dlatego napisaliśmy te trzy mechanizmy od nowa wewnątrz VibeiDE, zgodnie z opublikowanym projektem i jego stałymi, zachowując tylko to, co spełnia te założenia. Żaden element wtyczki nie jest dołączany, instalowany ani uruchamiany.
Dwa sposoby odczytywania wywołania narzędzia
Economizer musi widzieć, co agent uruchomił i jaki wynik otrzymał. W przypadku Claude Code działającego w terminalu odczytuje natywne hooki Claude Code, na które odpowiedź trafia, zanim Claude odczyta wynik narzędzia. W przypadku Codex oraz Claude Code działającego bez hooków odczytuje strumień zdarzeń, który VibeiDE już przechowuje na potrzeby widoku Aktywność zadania. Oba źródła są sprowadzane do jednej struktury: narzędzie, polecenie, ścieżki, wynik i informacja o niepowodzeniu. Wynik jest przycinany, odczytywany raz i nigdy nie jest zapisywany.
Fakty mają stałą strukturę zdań, bo polecenia są niezaufane
Fakt jest przekazywany każdemu kolejnemu zadaniu, a pochodzi z poleceń wpisanych przez agenta i danych wyjściowych z repozytorium. Dlatego Economizer nigdy nie zachowuje dowolnego tekstu. Fakt jest jednym z czterech zdań o stałej strukturze ze zweryfikowanymi parametrami: krótką formą polecenia opisaną prostymi słowami, nazwą narzędzia, nazwą hosta lub nazwą zmiennej. Wartość zmiennej jest podawana tylko wtedy, gdy jest krótka i prosta, a nazwa zmiennej nie sugeruje danych wrażliwych. W pozostałych przypadkach fakt nie powstaje.
Kiedy fakt jest zapisywany, przekazywany i wycofywany
Stosujemy cykl życia z TokenEconomizer. Kandydat staje się faktem po potwierdzeniu w trzech zadaniach. Jest przekazywany tylko wtedy, gdy marnowanie tokenów, któremu zapobiega, występuje w co najmniej 40 procentach z co najmniej czterech zadań, których dotyczył. O jego wycofaniu decyduje ocena nadająca większą wagę nowszym zadaniom, na przykład gdy dawna pisownia polecenia znów zadziała w dwóch kolejnych zadaniach.
Ochrona przed zapętleniem bez modelu oceniającego
Wtyczka pyta model, czy oznaczona tura rzeczywiście utknęła. Brain nie korzysta z modelu, który mógłby o to zapytać, więc mechanizm ochronny używa zachowawczego wariantu ustawień z projektu: czeka, aż siedem tur w projekcie zakończy się powodzeniem, i nigdy nie interweniuje przed upływem czasu, jaki zwykle zajmuje udana tura. Tura jest uznawana za zablokowaną tylko wtedy, gdy trwa długo, agent nadal edytuje te same pliki, błędy występują często i powraca to samo niepowodzenie.
Sugestia zmiany podejścia trafia przez odpowiedź na natywny hook Claude Code
Wiadomość dociera do Claude Code jako dodatkowy kontekst w odpowiedzi na jego własny hook narzędzia, dołączony do wyniku tego narzędzia i odczytywany w tej samej turze. Przytacza liczniki aktywności samego agenta, informuje, że została wygenerowana automatycznie, i nie zawiera wiedzy z zewnątrz. Codex nie ma takiego kanału w VibeiDE: jedynym sposobem wpłynięcia na trwającą turę Codex jest wiadomość sterująca, która wyglądałaby jak Twoje słowa. Dlatego gdy tura Codex utknie, pojawia się jedynie informacja dla Ciebie.
Co pominęliśmy i jak to sprawdziliśmy
Nie wdrożyliśmy ograniczania zestawu narzędzi wbudowanych w Claude Code ani pakietów możliwości Codex, a narzędzi zainstalowanych przez Ciebie nie powinniśmy usuwać. Rozpatrywane są tylko dwa serwery narzędzi dołączane przez VibeiDE. Sprawdziliśmy cały przebieg z rzeczywistymi Claude Code i Codex w odizolowanej kopii aplikacji: fakt powstał w toku czterech zadań, a kolejne zadanie otrzymało go i od razu uruchomiło działające polecenie. Nie podajemy wielkości oszczędności.
Źródła: TokenEconomizer w GitHub, publikacja o TokenEconomizer.