Documentazione
TokenEconomizer
Come abbiamo integrato TokenEconomizer nel Brain di VibeiDE
L'Economizer di VibeiDE è una nostra implementazione del progetto TokenEconomizer pubblicato da Microsoft Research, Microsoft Security e UC Berkeley, non il plugin stesso. Non effettua chiamate al modello, non scrive nulla nel tuo repository e non carica nulla quando il Brain è disattivato per un progetto. Questa pagina spiega cosa abbiamo mantenuto, cosa abbiamo cambiato e cosa abbiamo escluso.
Un'implementazione del progetto, non il plugin
TokenEconomizer viene distribuito come plugin Python che scrive nel repository e si affida a un modello per alcune decisioni. Il Brain di VibeiDE rispetta vincoli più rigorosi: nessuna chiamata al modello, nessuna chiave, niente Python, nessun file scritto nel tuo repository e nulla caricato quando il Brain è disattivato per un progetto. Abbiamo quindi riscritto i tre meccanismi all'interno di VibeiDE, basandoci sul progetto pubblicato e sulle sue costanti, e mantenendo solo ciò che rispetta questi vincoli. Nessun componente del plugin viene incluso, installato o eseguito.
Due modi di leggere una chiamata a uno strumento
L'Economizer deve vedere cosa ha eseguito un agente e quale risultato ha ricevuto. Per Claude Code in un terminale, legge gli hook di Claude Code stesso, ai quali viene data risposta prima che Claude legga il risultato dello strumento. Per Codex, e per Claude Code quando viene eseguito senza hook, legge il flusso di eventi che VibeiDE conserva già per l'attività delle operazioni. Entrambi vengono ricondotti a un unico formato: lo strumento, il comando, i percorsi, l'output e l'eventuale esito negativo. L'output viene troncato, letto una sola volta e mai memorizzato.
Le informazioni usano frasi predefinite, perché i comandi non sono attendibili
Un'informazione viene fornita a tutte le attività successive e deriva dai comandi digitati da un agente e dall'output prodotto da un repository. Per questo l'Economizer non conserva mai testo libero. Ogni informazione usa una di quattro frasi predefinite con parametri verificati: una forma breve del comando espressa in parole semplici, il nome di uno strumento, il nome di un host o il nome di una variabile. Il valore di una variabile viene indicato solo se è breve e semplice e il suo nome non suggerisce dati sensibili. In tutti gli altri casi non viene ricavata alcuna informazione.
Quando un'informazione viene conservata, fornita e ritirata
Usiamo il ciclo di vita di TokenEconomizer. Un'informazione candidata viene confermata dopo la verifica da parte di tre attività. Viene fornita solo se lo spreco che evita compare in almeno il 40 percento di un insieme di almeno quattro attività che l'hanno riguardata. Un punteggio che dà più peso alle attività recenti ne determina il ritiro, per esempio quando la vecchia forma di un comando torna a funzionare in due attività consecutive.
Una protezione dai cicli ripetitivi senza un modello di valutazione
Il plugin chiede a un modello se un turno segnalato è davvero bloccato. Il Brain non ha un modello a cui chiederlo, quindi la protezione usa l'impostazione prudente prevista dal progetto: attende che sette turni si siano conclusi con successo nel progetto e non interviene mai entro la durata abituale di un turno riuscito. Un turno viene considerato bloccato solo se si protrae a lungo, continua a modificare gli stessi file, presenta un'elevata frequenza di errori e ripete lo stesso errore.
L'invito a cambiare approccio passa dalla risposta all'hook di Claude Code
La nota raggiunge Claude Code come contesto aggiuntivo nella risposta al suo hook dello strumento, viene allegata al risultato di quello strumento e letta nello stesso turno. Riporta i conteggi dell'agente stesso, specifica che è automatica e non contiene conoscenze esterne. Codex non dispone di un canale simile in VibeiDE: l'unico modo per intervenire in un turno Codex in corso è un messaggio di orientamento, che verrebbe interpretato come parole tue. Perciò un turno Codex bloccato riceve solo la riga di segnalazione per te.
Cosa abbiamo escluso e come lo abbiamo verificato
Non abbiamo implementato l'esclusione degli strumenti integrati in Claude Code né dei pacchetti di funzionalità di Codex, e non spetta a noi rimuovere gli strumenti che hai installato tu. Solo i due server di strumenti collegati da VibeiDE possono essere esclusi. Abbiamo verificato l'intero percorso usando davvero Claude Code e Codex su una copia isolata dell'app: un'informazione si è formata nel corso di quattro attività e l'attività successiva l'ha ricevuta ed ha eseguito direttamente il comando funzionante. Non dichiariamo un'entità del risparmio.
Fonti: TokenEconomizer su GitHub, articolo scientifico su TokenEconomizer.