Visualizador de janela de contexto

Veja quanto da janela de contexto de um LLM o prompt de sistema, o histórico, o contexto RAG e a resposta ocupam. Digite tokens ou cole texto.

Grátis Sem cadastro Funciona no navegador

Este modelo não tem tokenizador público; o texto colado é contado com o o200k_base da OpenAI como estimativa.

Seus dados ficam no seu navegador — nada é enviado aos nossos servidores.

Toda requisição a um modelo de linguagem precisa caber na janela de contexto dele. Em uma aplicação real, essa janela é dividida entre várias coisas ao mesmo tempo: o prompt de sistema, a conversa até ali, os documentos trazidos pela busca (RAG), a nova mensagem do usuário e o espaço reservado para a resposta. Este visualizador mostra quanto cada parte ocupa, para você ver o que cortar antes que a requisição falhe ou fique cara.

Como usar o visualizador de janela de contexto

  1. Escolha um modelo. A janela de contexto aparece ao lado do nome, com o número oficial do provedor.
  2. Em cada parte da requisição, digite uma quantidade de tokens ou mude para Colar texto e cole o conteúdo real para ele ser contado.
  3. Veja a barra: cada cor é uma parte, e o resumo mostra os tokens usados, a porcentagem da janela e quantos ainda sobram.
  4. Se a requisição estourar, a ferramenta mostra por quanto. Reduza primeiro as partes maiores.

O que é a janela de contexto?

A janela de contexto é o máximo de tokens com que um modelo consegue trabalhar em uma requisição. Na maioria das APIs de chat ela cobre entrada e saída juntas: se a janela é de 200.000 tokens e você envia 190.000, sobram no máximo 10.000 para a resposta, e o parâmetro max_tokens não consegue aumentar isso.

Em um chat, o histórico é o que cresce sem ninguém perceber: a cada turno, todas as mensagens anteriores são reenviadas. O contexto de RAG também pode ser grande, porque os trechos recuperados entram inteiros no prompt. O prompt de sistema costuma ser pequeno, mas vai em toda requisição.

Quando uma requisição não cabe, a API devolve um erro ou a aplicação precisa descartar algo. As saídas mais comuns são resumir ou cortar turnos antigos, recuperar menos trechos (ou trechos menores) e limitar o tamanho da resposta. Mesmo quando tudo cabe, uma janela mais cheia significa conta mais alta e respostas mais lentas, e os modelos podem prestar menos atenção a detalhes perdidos em entradas muito longas.

Perguntas frequentes

A resposta conta dentro da janela de contexto?

Na maioria das APIs de chat, sim: entrada e saída gerada dividem a mesma janela. Por isso o visualizador tem a parte “reservado para a resposta”. Alguns provedores também informam um tamanho máximo de saída, que pode ser menor do que o espaço que sobra na janela.

Por que o texto colado aparece com “≈” em alguns modelos?

Só a OpenAI publica os tokenizadores dos seus modelos atuais. Para os outros, o texto colado é contado com o tokenizador o200k_base da OpenAI como estimativa, então o número real pode variar, principalmente em textos que não estão em inglês e em código.

O que acontece se eu passar da janela de contexto?

Normalmente a API recusa a requisição com um erro. Alguns apps de chat descartam em silêncio as mensagens mais antigas, o que pode fazer o modelo “esquecer” instruções anteriores. Cortar de propósito o histórico e o contexto recuperado deixa você decidir o que se perde.

Por que às vezes aparece 1M e às vezes 1.05M?

Cada provedor define a janela do seu jeito: alguns usam exatamente 1.000.000 de tokens, outros 1.048.576 (2²⁰) e outros números diferentes. A ferramenta usa o número publicado por cada provedor.

O texto que eu colo é enviado para algum lugar?

Não. A contagem acontece no seu navegador. O vocabulário do tokenizador é baixado uma vez deste site; seu texto fica no seu dispositivo.

Ferramentas relacionadas