Kontextfenster-Visualisierer
Sehen Sie, wie viel vom Kontextfenster eines LLM Systemprompt, Verlauf, RAG-Kontext und Antwort belegen. Tokens eingeben oder Text einfügen.
Für dieses Modell gibt es keinen öffentlichen Tokenizer; eingefügter Text wird mit o200k_base von OpenAI geschätzt.
Ihre Eingaben bleiben in Ihrem Browser – nichts wird an unsere Server gesendet.
Jede Anfrage an ein Sprachmodell muss in sein Kontextfenster passen. In einer echten Anwendung teilen sich mehrere Dinge dieses Fenster: der Systemprompt, das bisherige Gespräch, per Suche abgerufene Dokumente (RAG), die neue Nutzernachricht und der Platz, den Sie für die Antwort freihalten. Dieser Visualisierer zeigt, wie viel jeder Teil belegt, damit Sie sehen, was Sie kürzen sollten, bevor eine Anfrage scheitert oder teuer wird.
So verwenden Sie den Kontextfenster-Visualisierer
- Wählen Sie ein Modell. Neben dem Namen steht sein Kontextfenster laut offizieller Angabe des Anbieters.
- Geben Sie für jeden Teil der Anfrage eine Token-Zahl ein oder wechseln Sie zu Text einfügen und fügen Sie den echten Inhalt ein, um ihn zählen zu lassen.
- Lesen Sie den Balken: Jede Farbe steht für einen Teil, die Zusammenfassung zeigt belegte Tokens, den Anteil am Fenster und den verbleibenden Platz.
- Läuft die Anfrage über, zeigt das Tool, um wie viel. Kürzen Sie zuerst die größten Teile.
Was ist ein Kontextfenster?
Das Kontextfenster ist die maximale Zahl an Tokens, mit der ein Modell in einer Anfrage arbeiten kann. Bei den meisten Chat-APIs umfasst es Eingabe und Ausgabe zusammen: Bei einem Fenster von 200.000 Tokens und 190.000 Tokens Eingabe bleiben höchstens 10.000 für die Antwort – daran ändert auch max_tokens nichts.
In einem Chat wächst vor allem der Verlauf unbemerkt: Bei jeder Runde werden alle früheren Nachrichten erneut gesendet. Auch RAG-Kontext kann groß werden, weil abgerufene Abschnitte vollständig in den Prompt kopiert werden. Der Systemprompt ist meist klein, wird aber mit jeder Anfrage mitgeschickt.
Passt eine Anfrage nicht, liefert die API einen Fehler oder die Anwendung muss etwas weglassen. Übliche Lösungen sind, alte Gesprächsrunden zusammenzufassen oder abzuschneiden, weniger oder kürzere Abschnitte abzurufen und die Antwortlänge zu begrenzen. Auch wenn alles passt: Ein volleres Fenster bedeutet höhere Kosten und langsamere Antworten, und Modelle achten bei sehr langen Eingaben oft weniger auf tief vergrabene Details.
Häufig gestellte Fragen
Zählt die Antwort zum Kontextfenster?
Bei den meisten Chat-APIs ja: Eingabe und erzeugte Ausgabe teilen sich dasselbe Fenster. Deshalb hat der Visualisierer einen Teil „Reserviert für die Antwort“. Manche Anbieter nennen zusätzlich eine maximale Ausgabelänge, die kleiner sein kann als der verbleibende Platz.
Warum zeigt eingefügter Text bei manchen Modellen „≈“?
Nur OpenAI veröffentlicht die Tokenizer seiner aktuellen Modelle. Bei anderen Modellen wird eingefügter Text mit dem o200k_base-Tokenizer von OpenAI geschätzt. Der echte Wert kann abweichen, besonders bei nicht-englischem Text und bei Code.
Was passiert, wenn ich das Kontextfenster überschreite?
Meist lehnt die API die Anfrage mit einem Fehler ab. Manche Chat-Apps verwerfen stattdessen still die ältesten Nachrichten, sodass das Modell frühere Anweisungen „vergisst“. Wer Verlauf und abgerufenen Kontext gezielt kürzt, entscheidet selbst, was wegfällt.
Warum steht mal 1M und mal 1.05M da?
Anbieter definieren ihre Fenster unterschiedlich: manche mit genau 1.000.000 Tokens, andere mit 1.048.576 (2²⁰), wieder andere mit eigenen Werten. Das Tool übernimmt jeweils die veröffentlichte Zahl des Anbieters.
Wird eingefügter Text irgendwohin gesendet?
Nein. Gezählt wird in Ihrem Browser. Das Tokenizer-Vokabular wird einmal von dieser Website geladen; Ihr Text bleibt auf Ihrem Gerät.