2026-07-13

Что такое длина контекста? (И что её на самом деле заполняет)

Длина контекста — это бюджет, а не функция. Что в неё засчитывается, каковы реальные пределы сегодня и что происходит, когда место кончается.

Что такое длина контекста? (И что её на самом деле заполняет)

На карточке каждой модели стоит число вроде «200K контекста» или «1M контекста». Выглядит как характеристика ёмкости — вроде объёма диска. На деле это ближе к бюджету, который вы тратите на каждом запросе, — и большую его часть съедает не то, что вы напечатали.

Цифры проверены 26 августа 2026 года.

Что такое длина контекста

У модели нет памяти. При каждом вызове вы отправляете весь разговор заново — системный промпт, каждый предыдущий ход, все приложенные файлы — и она читает всё это, прежде чем написать хоть слово.

Длина контекста — это максимальный размер такого пакета, измеряемый в токенах. Токен — небольшой кусок текста, примерно три четверти слова в английском.

Так что это не хранилище. Это размер стола, на котором модель может разложить ваши документы, — расчищаемого заново на каждом запросе.

Реальные пределы сегодня

Длина контекстаМодели такого размера
32 768Qwen 2.5 Coder 32B
200 000Claude Haiku 4.5
262 144Kimi K2.7 Code
400 000Всё семейство GPT-5, включая каждый вариант Codex
1 000 000Claude Opus 5, Claude Sonnet 5, Qwen3 Coder Flash и Plus
1 048 576Семейства Gemini 2.5 и 3.x, DeepSeek V4 Pro

Два момента стоит отметить.

Миллион токенов — это около 750 000 слов, несколько объёмных романов. Почти никакому приложению это не нужно, а тем, кому нужно, обычно недостаёт поиска, а не контекста.

1 048 576 — это 2²⁰, а не круглое маркетинговое число. Там, где поставщик указывает ровно 1 000 000, он округлил; там, где указывает 1 048 576, он сообщает реальный размер буфера.

Цены за токен и длины контекста для каждой текстовой модели — на странице чат-моделей.

Чем он на самом деле заполняется

Вот эту часть карточки моделей не рассказывают. Документация Anthropic публикует точные числа токенов для нескольких минимальных запросов, и они поучительны:

Что было отправленоВходные токены
Системный промпт из пяти слов плюс сообщение из двух14
Вопрос из девяти слов плюс одно описание инструмента403
Одно изображение плюс «Describe this image»1 028
Один PDF плюс «Please summarize this document.»2 188

Одно описание инструмента стоит около 390 токенов. Агент с двадцатью инструментами тратит порядка 8 000 токенов своего окна ещё до того, как пользователь что-либо напечатал, — и платит за них в каждом запросе.

Изображение — около тысячи токенов. Двадцать скриншотов — это 20 000.

И сам разговор растёт. Ход 10 несёт в себе ходы с 1 по 9. Чат, казавшийся маленьким вначале, к концу становится самой крупной частью запроса.

Так что модель с «200K контекста» внутри агента с пятнадцатью инструментами, длинным системным промптом и парой скриншотов стартует вовсе не со 200K. Она стартует существенно ниже и сжимается с каждым ходом.

Ловушка: один и тот же текст — не одно и то же число токенов

Длина контекста измеряется в токенах, а токены — не устойчивая единица при переходе между моделями.

Документация Anthropic прямо сообщает, что Claude 4.7 и новее используют более новый токенизатор, где «тот же входной текст даёт примерно на 30 процентов больше токенов, чем на прежних моделях».

Это значит: промпт, измеренный в 150 000 токенов на старой модели, на новой может оказаться около 195 000 — те же слова, на тридцать процентов больше окна и на тридцать процентов больше денег. Если вы рассчитали конвейер обработки документов под одну модель, а потом сменили её, — перемерьте, прежде чем считать, что он всё ещё помещается.

Поставщики дают способ проверить. Эндпоинт подсчёта токенов у Anthropic бесплатен. Считайте на той самой модели, которую собираетесь запускать.

Что происходит, когда место кончается

Никакой мягкой деградации. В зависимости от поставщика вы получаете ошибку, усечённый ввод или молча отброшенную историю — и третье опаснее всего, потому что модель уверенно отвечает по разговору, который больше не видит целиком.

Три выхода, по возрастанию трудозатрат:

Обрезать. Выбрасывать или пересказывать самые старые ходы. Дешевле всего в реализации и обычно достаточно для чата.

Кешировать. Если большая часть вашего контекста — фиксированный префикс (длинный системный промпт, справочный документ), кеширование промптов позволяет поставщику сохранить его и брать долю за повторное чтение. Окно от этого не увеличится, но большая часть стоимости его заполнения уйдёт.

Извлекать. Перестать отправлять весь корпус и отправлять только релевантные части. Больше инженерной работы, но это единственный подход, который не ухудшается по мере роста ваших данных.

Потянуться за окном побольше — четвёртый вариант и обычно самый дорогой, потому что каждый токен в этом окне вы оплачиваете в каждом запросе.

Дороже ли обходится окно побольше?

Не в пересчёте на токен. Модель с контекстом 1M не тарифицируется выше, чем модель с 200K, за один и тот же запрос: Claude Sonnet 5 стоит 2,00 $ за миллион входных токенов, отправите вы пятьсот токенов или пятьсот тысяч.

Но окно побольше облегчает тратить больше, потому что убирает ошибку, которая вас бы остановила. Заполнить окно в миллион токенов по 2,00 $ за миллион стоит 2,00 $ за запрос — и если этот запрос представляет собой ход чата, происходящий пятьдесят тысяч раз в месяц, арифметика быстро становится серьёзной.

Дисциплина в обоих случаях одна: отправляйте как можно меньше, а не столько, сколько позволено.

Коротко

Что посмотреть дальше на ElliSekiz

Сравните длины контекста и цены токенов рядом. Страница чат-моделей перечисляет каждую текстовую модель с её входной и выходной ставкой.

А потом измерьте собственный промпт. У каждой страницы модели есть playground — запустите настоящий запрос и прочитайте реальные числа токенов, прежде чем что-либо рассчитывать.

Источники

← Все записи