O gateway enxuga o histórico da conversa antes de a requisição chegar ao provedor, removendo resultados de ferramenta que um classificador rápido julga não serem mais necessários. Nunca resume: o texto do usuário e do assistente sai idêntico byte a byte. Vem desligado.
Na saída, antes de a requisição chegar ao provedor, o gateway lê o histórico da conversa e emparelha cada chamada de ferramenta com o seu resultado. Para cada par, um classificador responde a duas perguntas: esta chamada ainda precisa estar aqui, e o resultado inteiro dela ainda precisa estar aqui. O que o classificador marca como não mais necessário é removido. Todo o resto passa intacto.
Cliente (Agente, CLI ou aplicação) -> Gateway (Emparelha chamadas e resultados, consulta o motor, reescreve) -> Provedor (Recebe um histórico menor, com a mesma prosa). A compactação acontece no caminho de saída de uma requisição. Nada é armazenado, nada é reescrito do lado do cliente.
A garantia: Se você comparar a requisição que saiu do gateway com a que entrou, a diferença é sempre uma subtração. Nada do que saiu foi escrito pelo motor de compactação.
Quem decide pode ser um modelo que o cliente roda na própria máquina (o motor local) ou um serviço de decisão hospedado (o motor remoto). Os dois falam o mesmo protocolo de fio, então a única diferença de configuração é o endpoint. Nada mais no bloco muda.
A compactação vem desligada na instalação nova. Sem bloco de configuração e sem variável de ambiente que a ligue, o gateway nunca chama motor nenhum e o histórico vai ao provedor exatamente como chegou. Ligar é um ato deliberado.
Uma vez ligada, todo caminho de falha termina no mesmo lugar: vai o histórico ORIGINAL.
A regra: Nenhuma requisição é quebrada para economizar token. A compactação é otimização, então qualquer dúvida se resolve a favor de mandar tudo.
O campo de credencial do motor guarda o NOME de uma variável de ambiente, nunca um valor colado. O gateway lê a variável na subida. Um arquivo de configuração que carregue o segredo em si é recusado, com mensagem dizendo qual campo, para uma credencial nunca chegar por acidente a um backup, a um repositório ou a um chamado de suporte.
"api_key_env": "ATLASBERG_COMPACTACAO_API_KEY" ok: o nome da variável
"api_key_env": "sk-live-9f2c..." recusado: valor no arquivoEsta é a parte que decide se a compactação vale alguma coisa, e ela não é intuitiva. Numa sessão longa de agente, a maior parte dos tokens de entrada não é lida a preço cheio: é leitura de cache, cobrada a 0,1x. O prefixo da conversa fica estável turno após turno, então permanece em cache e custa quase nada para ser enviado de novo.
A compactação reescreve esse prefixo. Prefixo novo é cache miss, e entrar no cache custa 1,25x. Ou seja, toda compactação começa no negativo: paga 1,25x uma vez, sobre um histórico menor, para depois ler a 0,1x enquanto o novo prefixo durar. Só vira lucro se houver turnos suficientes depois dela.
Antes de ligar a compactação, o gateway consegue medir o que a compactação ECONOMIZARIA no tráfego do próprio cliente sem compactar nada. Ele roda o motor ao lado das requisições reais, registra o que teria removido e quanto aquilo valeria, e envia toda requisição intacta. Nenhum comportamento muda enquanto ele mede.
Comece por aqui. Perfil de tráfego varia enormemente: uma carga de conversas curtas com poucas chamadas de ferramenta não tem quase nada a remover, e uma semana de medição custa alguns centavos para descobrir isso. Os números abaixo saíram exatamente desse modo.
A variavel funciona com a feature ainda desligada. O que ela produz sao contagens, nunca texto: quantas chamadas teriam virado pergunta, quantos tokens teriam saido do historico e quanto aquilo valeria. Nenhum conteudo de prompt chega a metrica nem a trilha.
ATLASBERG_COMPACTACAO_MEDIR=1Sobre 30 sessões reais de agente, 6.892 turnos e 250 consultas reais ao motor:
Os dois números do fim andam juntos. 40,6% das remoções apagaram material que a conversa voltou a citar depois, o que soa alarmante até se olhar o que foi removido: 97,6% de tudo que saiu veio de ferramenta determinística, um arquivo que continua no disco, um comando que roda de novo com a mesma saída. O material é recuperável repetindo a chamada. Por isso o custo máximo de um erro do classificador é uma chamada de ferramenta repetida, e por isso o pior caso acima é US$ 4,32 e não uma sessão quebrada.
Dois limites, ditos com todas as letras: O modelo de custo cobre só o lado de entrada da conversa. E a qualidade de conclusão de tarefa com e sem compactação NÃO foi medida: nada aqui afirma que o agente terminou o mesmo trabalho igualmente bem.
A compactação só endereça parte da conta, e vale saber qual parte antes de esperar um número dela.
Ordem recomendada: medir primeiro no tráfego da casa, ler a redução contra o prefixo fixo que não dá para tocar, e só então colocar enabled em verdadeiro, começando pelo motor local.
"compactacao": {
"enabled": true,
"engine": "local",
"endpoint": "http://127.0.0.1:8080",
"model": "<modelo de decisão>",
"api_key_env": "ATLASBERG_COMPACTACAO_API_KEY",
"limiar_tokens": 40000,
"piso_bytes": 2048,
"preservar_recentes": 6,
"limiar_decisao": 0.7,
"truncar_cabeca_chars": 800,
"timeout_ms": 1500,
"min_reducao": 0.1,
"consentimento_exportar_prompt": false
}A Atlasberg Platform é a camada de controle entre uma empresa e todos os modelos de IA: cada requisição é autenticada com uma chave virtual, filtrada por política e DLP, roteada para o provedor certo e gravada numa trilha de auditoria encadeada por hash. Expõe uma API compatível com a OpenAI, então as aplicações só trocam a URL base.
O mesmo artefato roda na Atlasberg Cloud, na sua VPC, on-premises ou totalmente air-gapped, e é cobrado por capacidade e módulos, nunca por assento.
Esta página faz parte da documentação oficial. Para falar com o time de engenharia, escreva para [email protected] ou use https://atlasberg.com/pt-br/contato. A resposta vem em até um dia útil.
Agentes: esta página também está disponível em Markdown em /pt-br/docs/console/compactacao-de-contexto.md, ou pedindo esta URL com o cabeçalho Accept: text/markdown. Índice de tudo: /llms.txt.