2026-07-13

Що таке довжина контексту? (І що її насправді заповнює)

Довжина контексту — це бюджет, а не функція. Що до неї зараховується, які реальні межі сьогодні і що стається, коли місце вичерпується.

Що таке довжина контексту? (І що її насправді заповнює)

На картці кожної моделі стоїть число на кшталт «200K контексту» або «1M контексту». Виглядає як характеристика місткості — як обсяг диска. Насправді це ближче до бюджету, який ви витрачаєте на кожному запиті, — і більшу його частину з'їдає не те, що ви набрали.

Цифри востаннє перевірено 26 серпня 2026 року.

Що таке довжина контексту

У моделі немає пам'яті. За кожного виклику ви надсилаєте всю розмову заново — системний промпт, кожен попередній хід, усі долучені файли — і вона читає це все, перш ніж написати бодай слово.

Довжина контексту — це максимальний розмір такого пакета, вимірюваний у токенах. Токен — невеликий шматок тексту, приблизно три чверті слова в англійській.

Тож це не сховище. Це розмір столу, на якому модель може розкласти ваші документи, — прибираного дочиста на кожному запиті.

Реальні межі сьогодні

Довжина контекстуМоделі такого розміру
32 768Qwen 2.5 Coder 32B
200 000Claude Haiku 4.5
262 144Kimi K2.7 Code
400 000Уся родина GPT-5, включно з кожним варіантом Codex
1 000 000Claude Opus 5, Claude Sonnet 5, Qwen3 Coder Flash і Plus
1 048 576Родини Gemini 2.5 і 3.x, DeepSeek V4 Pro

Два моменти варті уваги.

Мільйон токенів — це близько 750 000 слів, кілька об'ємних романів. Майже жодному застосунку це не потрібно, а тим, кому потрібно, зазвичай бракує пошуку, а не контексту.

1 048 576 — це 2²⁰, а не кругле маркетингове число. Там, де постачальник вказує рівно 1 000 000, він округлив; там, де вказує 1 048 576, він повідомляє справжній розмір буфера.

Ціни за токен і довжини контексту для кожної текстової моделі — на сторінці чат-моделей.

Чим він насправді заповнюється

Ось цієї частини картки моделей не розповідають. Документація Anthropic публікує точні числа токенів для кількох мінімальних запитів, і вони повчальні:

Що було надісланоВхідні токени
Системний промпт із п'яти слів плюс повідомлення з двох14
Запитання з дев'яти слів плюс один опис інструмента403
Одне зображення плюс «Describe this image»1 028
Один PDF плюс «Please summarize this document.»2 188

Один опис інструмента коштує близько 390 токенів. Агент із двадцятьма інструментами витрачає близько 8 000 токенів свого вікна ще до того, як користувач щось набрав, — і платить за них у кожному запиті.

Зображення — близько тисячі токенів. Двадцять знімків екрана — це 20 000.

І сама розмова росте. Хід 10 несе в собі ходи з 1 по 9. Чат, що здавався маленьким спочатку, наприкінці стає найбільшою частиною запиту.

Тож модель із «200K контексту» всередині агента з п'ятнадцятьма інструментами, довгим системним промптом і кількома знімками стартує зовсім не з 200K. Вона стартує суттєво нижче і стискається з кожним ходом.

Пастка: той самий текст — не те саме число токенів

Довжина контексту вимірюється в токенах, а токени — не стала одиниця при переході між моделями.

Документація Anthropic прямо повідомляє, що Claude 4.7 і новіші використовують новіший токенізатор, де «той самий вхідний текст дає приблизно на 30 відсотків більше токенів, ніж на попередніх моделях».

Це означає: промпт, виміряний у 150 000 токенів на старій моделі, на новій може виявитися близько 195 000 — ті самі слова, на тридцять відсотків більше вікна і на тридцять відсотків більше грошей. Якщо ви розрахували конвеєр обробки документів під одну модель, а потім змінили її, — переміряйте, перш ніж вважати, що він усе ще вміщається.

Постачальники дають спосіб перевірити. Ендпоінт підрахунку токенів у Anthropic безкоштовний. Рахуйте на тій самій моделі, яку збираєтеся запускати.

Що стається, коли місце вичерпується

Жодної м'якої деградації. Залежно від постачальника ви отримуєте помилку, обрізаний вхід або мовчки відкинуту історію — і третє найнебезпечніше, бо модель упевнено відповідає за розмовою, якої вже не бачить цілком.

Три виходи, за зростанням трудовитрат:

Обрізати. Викидати або переказувати найстаріші ходи. Найдешевше в реалізації і зазвичай достатньо для чату.

Кешувати. Якщо більшість вашого контексту — фіксований префікс (довгий системний промпт, довідковий документ), кешування промптів дозволяє постачальнику зберегти його і брати частку за повторне читання. Вікно від цього не збільшиться, але більшість вартості його заповнення зникне.

Видобувати. Перестати надсилати весь корпус і надсилати лише релевантні частини. Більше інженерної роботи, але це єдиний підхід, який не гіршає в міру зростання ваших даних.

Потягнутися по більше вікно — четвертий варіант і зазвичай найдорожчий, бо кожен токен у тому вікні ви оплачуєте в кожному запиті.

Чи дорожче обходиться більше вікно?

Не в перерахунку на токен. Модель із контекстом 1M не тарифікується вище за модель із 200K за той самий запит: Claude Sonnet 5 коштує 2,00 $ за мільйон вхідних токенів, надішлете ви п'ятсот токенів чи п'ятсот тисяч.

Але більше вікно полегшує витрачати більше, бо прибирає помилку, яка б вас зупинила. Заповнити вікно в мільйон токенів по 2,00 $ за мільйон коштує 2,00 $ за запит — і якщо цей запит є ходом чату, що стається п'ятдесят тисяч разів на місяць, арифметика швидко стає серйозною.

Дисципліна в обох випадках одна: надсилайте якнайменше, а не стільки, скільки дозволено.

Коротко

Що подивитися далі на ElliSekiz

Порівняйте довжини контексту і ціни токенів поруч. Сторінка чат-моделей перелічує кожну текстову модель із її вхідною і вихідною ставкою.

А потім виміряйте власний промпт. Кожна сторінка моделі має playground — запустіть справжній запит і прочитайте реальні числа токенів, перш ніж щось розраховувати.

Джерела

← Усі записи