Visualizador de ventana de contexto
Mira cuánto de la ventana de contexto de un LLM ocupan el prompt de sistema, el historial, el contexto RAG y la respuesta. Escribe tokens o pega texto.
Este modelo no tiene un tokenizador público; el texto pegado se cuenta con o200k_base de OpenAI como estimación.
Tus datos se quedan en tu navegador: no se envía nada a nuestros servidores.
Cada petición a un modelo de lenguaje tiene que caber en su ventana de contexto. En una aplicación real esa ventana la comparten varias cosas a la vez: el prompt de sistema, la conversación hasta ese momento, los documentos que trae la búsqueda (RAG), el nuevo mensaje del usuario y el espacio que reservas para la respuesta. Este visualizador muestra cuánto ocupa cada parte para que veas qué recortar antes de que la petición falle o se encarezca.
Cómo usar el visualizador de ventana de contexto
- Elige un modelo. Junto al nombre aparece su ventana de contexto, con la cifra oficial del proveedor.
- En cada parte de la petición escribe un número de tokens, o cambia a Pegar texto y pega el contenido real para contarlo.
- Mira la barra: cada color es una parte, y el resumen muestra los tokens usados, el porcentaje de la ventana y cuántos quedan libres.
- Si la petición no cabe, la herramienta te dice por cuánto se pasa. Recorta primero las partes más grandes.
¿Qué es la ventana de contexto?
La ventana de contexto es el máximo de tokens con los que un modelo puede trabajar en una petición. En la mayoría de las API de chat incluye entrada y salida a la vez: si la ventana es de 200.000 tokens y envías 190.000, al modelo le quedan como mucho 10.000 para responder, y el parámetro max_tokens no puede ampliarlo.
En un chat, el historial es lo que crece sin que te des cuenta: en cada turno se reenvían todos los mensajes anteriores. El contexto de RAG también puede ser grande, porque los fragmentos recuperados se pegan enteros en el prompt. El prompt de sistema suele ser pequeño, pero va en todas las peticiones.
Cuando una petición no cabe, la API devuelve un error o la aplicación tiene que descartar algo. Las soluciones habituales son resumir o recortar los turnos antiguos, recuperar menos fragmentos o más cortos y limitar la longitud de la respuesta. Aunque todo quepa, una ventana más llena implica una factura más alta y respuestas más lentas, y los modelos pueden fijarse menos en detalles enterrados en entradas muy largas.
Preguntas frecuentes
¿La respuesta cuenta dentro de la ventana de contexto?
En la mayoría de las API de chat, sí: la entrada y la salida generada comparten la misma ventana. Por eso el visualizador incluye la parte «reservado para la respuesta». Algunos proveedores indican además una longitud máxima de salida, que puede ser menor que lo que queda libre en la ventana.
¿Por qué el texto pegado muestra «≈» en algunos modelos?
Solo OpenAI publica los tokenizadores de sus modelos actuales. Para los demás, el texto pegado se cuenta con el tokenizador o200k_base de OpenAI como estimación, así que la cifra real puede variar, sobre todo en textos que no están en inglés y en código.
¿Qué pasa si supero la ventana de contexto?
Normalmente la API rechaza la petición con un error. Algunas aplicaciones de chat descartan en silencio los mensajes más antiguos, lo que puede hacer que el modelo «olvide» instrucciones anteriores. Recortar a propósito el historial y el contexto recuperado te deja decidir qué se pierde.
¿Por qué unas veces aparece 1M y otras 1.05M?
Cada proveedor define su ventana a su manera: algunos usan exactamente 1.000.000 de tokens, otros 1.048.576 (2²⁰) y otros cifras distintas. La herramienta usa el número publicado por cada proveedor.
¿Se envía a algún sitio el texto que pego?
No. El recuento se hace en tu navegador. El vocabulario del tokenizador se descarga una vez desde este sitio; tu texto se queda en tu dispositivo.