2026-07-13

Co je délka kontextu? (A co ji doopravdy zaplní)

Délka kontextu je rozpočet, ne funkce. Co se do ní počítá, jaké jsou dnes skutečné limity a co se stane, když dojde místo.

Co je délka kontextu? (A co ji doopravdy zaplní)

Na každé kartě modelu je číslo jako „200K kontextu" nebo „1M kontextu". Vypadá to jako údaj o kapacitě, podobně jako místo na disku. Blíž je to rozpočtu, který utrácíš při každém jednotlivém požadavku — a většinu z něj nespotřebuje to, co jsi napsal.

Čísla naposledy ověřena 26. srpna 2026.

Co je délka kontextu

Model nemá paměť. Pokaždé, když ho zavoláš, pošleš celý rozhovor znovu — systémový prompt, každé předchozí kolo, všechny přiložené soubory — a on to celé přečte, než napíše jediné slovo.

Délka kontextu je maximální velikost toho balíku, měřená v tokenech. Token je malý kousek textu, v angličtině zhruba tři čtvrtiny slova.

Není to tedy úložiště. Je to velikost stolu, na kterém model může rozložit tvoje dokumenty — uklizeného do čista při každém požadavku.

Skutečné limity dneška

Délka kontextuModely té velikosti
32 768Qwen 2.5 Coder 32B
200 000Claude Haiku 4.5
262 144Kimi K2.7 Code
400 000Celá rodina GPT-5 včetně každé varianty Codex
1 000 000Claude Opus 5, Claude Sonnet 5, Qwen3 Coder Flash a Plus
1 048 576Rodiny Gemini 2.5 a 3.x, DeepSeek V4 Pro

Dvě věci stojí za povšimnutí.

Milion tokenů je zhruba 750 000 slov — několik dlouhých románů. Skoro žádná aplikace to nepotřebuje, a ty, které ano, mívají problém s vyhledáváním, ne s kontextem.

1 048 576 je 2²⁰, ne kulaté marketingové číslo. Kde poskytovatel uvádí přesně 1 000 000, zaokrouhlil; kde uvádí 1 048 576, hlásí skutečnou velikost bufferu.

Ceny za token a délky kontextu každého textového modelu jsou na stránce chatovacích modelů.

Co ji doopravdy zaplní

Tohle je ta část, kterou karty modelů neříkají. Dokumentace Anthropicu zveřejňuje přesné počty tokenů pro pár minimálních požadavků a jsou poučné:

Co bylo odeslánoVstupní tokeny
Systémový prompt o pěti slovech plus dvouslovná zpráva14
Devítislovná otázka plus jedna definice nástroje403
Jeden obrázek plus „Describe this image"1 028
Jedno PDF plus „Please summarize this document."2 188

Jedna definice nástroje stojí zhruba 390 tokenů. Agent s dvaceti nástroji utratí asi 8 000 tokenů svého okna, ještě než uživatel cokoli napíše — a platí je při každém požadavku.

Obrázek je asi tisíc tokenů. Dvacet snímků obrazovky je 20 000.

A samotný rozhovor roste. Kolo 10 s sebou nese kola 1 až 9. Chat, který na začátku působil malý, je na konci to největší v požadavku.

Model s „200K kontextu" v agentovi s patnácti nástroji, dlouhým systémovým promptem a pár snímky tedy nezačíná na 200K. Začíná výrazně níž a s každým kolem se zmenšuje.

Past: stejný text není stejný počet tokenů

Délka kontextu se měří v tokenech a tokeny nejsou napříč modely stabilní jednotkou.

Vlastní dokumentace Anthropicu uvádí, že Claude 4.7 a novější používají novější tokenizér, u kterého „stejný vstupní text produkuje přibližně o 30 procent více tokenů než u dřívějších modelů".

Což znamená: prompt naměřený na 150 000 tokenů na starším modelu může být na novějším asi 195 000 — stejná slova, o třicet procent víc okna a o třicet procent vyšší cena. Pokud jsi dimenzoval pipeline na zpracování dokumentů podle jednoho modelu a pak ho vyměnil, přeměř to dřív, než budeš předpokládat, že se to pořád vejde.

Poskytovatelé ti dají způsob, jak to ověřit. Endpoint Anthropicu na počítání tokenů je zdarma. Počítej na přesně tom modelu, který chceš spustit.

Co se stane, když dojde místo

Žádné elegantní zhoršení. Podle poskytovatele dostaneš chybu, oříznutý vstup, nebo tiše zahozenou historii — a to třetí je nebezpečné, protože model sebejistě odpovídá z rozhovoru, který už celý nevidí.

Tři východiska, seřazená podle náročnosti:

Ořezat. Zahodit nebo shrnout nejstarší kola. Nejlevnější na postavení a pro chat obvykle dost.

Kešovat. Pokud je velkou částí tvého kontextu pevný prefix — dlouhý systémový prompt, referenční dokument — kešování promptů umožní poskytovateli ho uložit a účtovat zlomek za opětovné přečtení. Okno to nezvětší, ale sundá to většinu ceny za jeho naplnění.

Vyhledávat. Přestat posílat celý korpus a poslat jen relevantní části. Víc inženýrství, ale je to jediný přístup, který se nezhoršuje, jak tvá data rostou.

Sáhnout po větším kontextovém okně je čtvrtá možnost a obvykle nejdražší — protože každý token v tom okně platíš při každém požadavku.

Stojí větší okno víc?

Ne za token. Model s 1M kontextu není za stejný požadavek účtován vyšší sazbou než model s 200K; Claude Sonnet 5 je 2,00 $ za milion vstupních tokenů, ať pošleš pět set tokenů nebo pět set tisíc.

Ale větší okno usnadňuje utratit víc, protože odstraňuje chybu, která by tě zastavila. Naplnit milionové okno při 2,00 $ za milion stojí 2,00 $ za požadavek — a jestli je tím požadavkem kolo chatu, které se děje padesát tisíckrát měsíčně, aritmetika začne být rychle vážná.

Disciplína je tak jako tak stejná: posílej co nejmíň, ne co nejvíc smíš.

Krátká verze

Prozkoumej dál na ElliSekiz

Porovnej délky kontextu a ceny tokenů vedle sebe. Stránka chatovacích modelů uvádí každý textový model s jeho vstupní a výstupní sazbou.

Pak změř vlastní prompt. Každá stránka modelu má playground — pusť skutečný požadavek a přečti si reálné počty tokenů dřív, než začneš cokoli dimenzovat.

Zdroje

← Všechny příspěvky