Почему длинный контекст дорогой
Стоимость запроса ≈ (токены на входе × цена ввода) + (токены на выходе × цена вывода). Ответ обычно короткий — сотни или тысячи токенов. А вход растёт с каждым ходом: к истории добавляются новый вопрос и прошлый ответ, и всё это снова уходит модели. Пример: чат-бот с документацией на 100 тыс. токенов в системном промпте. Пользователь задаёт 30 вопросов — это 30 × 100 тыс. = 3 млн входных токенов только на документацию, даже если каждый вопрос — одна строка. Поэтому на длинном контексте экономить нужно прежде всего на входе.Сколько стоит один запрос
Запрос на 150 тыс. токенов входа и 2 тыс. токенов ответа. «С кэшем» — 140 тыс. токенов совпали с прошлым запросом и прочитаны из кэша, 10 тыс. — новые.
Для Claude новые 10 тыс. токенов посчитаны по цене записи в кэш (в 1,25 раза дороже обычного ввода), у GPT и DeepSeek — по цене обычного ввода.
claude-haiku-5-5 при 150 тыс. токенов уже за порогом в 100 тыс. и считается по старшей ступени (см. следующий раздел).
Два вывода. Первый: в этом примере кэш снижает счёт в 4–5,5 раза на любой из этих моделей. Второй: разница между моделями на длинном контексте — до 40 раз, и она важнее, чем кажется по коротким тестам.
Где цена растёт после порога
У части моделей цена ступенчатая: пока весь промпт короче порога, действует младшая ступень, а если длиннее — весь запрос оплачивается по старшей, а не только токены сверх порога. В порог входят и токены из кэша. Цены — за 1 млн токенов, ввод / вывод:
Одна цена при любой длине — у
deepseek-flash, deepseek-v4-pro, claude-sonnet-5-5, claude-opus-5-5, glm-5.3, kimi-k3.1-pro, gemini-3.8-flash и gemini-2.5-flash-lite.
В таблице — примеры. Порог 272 тыс. есть у всех моделей GPT-5.x и GPT-6, кроме gpt-5.4-mini и gpt-5.4-nano (у них одна цена), 200 тыс. — у gemini-2.5-pro; полный список с ценами обеих ступеней — на странице цен.
Как это выглядит на деле: если увеличить контекст вдвое, со 150 до 300 тыс. токенов, запрос без кэша к deepseek-flash или claude-sonnet-5-5 подорожает примерно вдвое, а к gpt-6-luna и gpt-5.4 — почти в 4 раза: контекст вырос, и весь запрос перешёл на старшую ступень. На 300 тыс. токенов deepseek-flash ($0,053 за запрос) уже дешевле gpt-6-luna ($0,074).
Шесть способов платить меньше
1. Включите кэш
У Claude, GPT и DeepSeek повторный контекст из кэша стоит в 10 и более раз дешевле обычного ввода. У GPT и DeepSeek кэш включается сам. У Claude он работает через нативный Anthropic API или через меткиcache_control в OpenAI-совместимом формате; RuAPI умеет ставить метки и сам. Как проверить, что кэш сработал: Консоль → Журнал запросов → детали записи → «Токены из кэша». Подробно — в разделе Кэширование промптов.
2. Не меняйте начало промпта
Кэш срабатывает, только если запрос с самого начала совпадает с прошлым, токен в токен. Одно изменение в начале — и весь длинный контекст оплачивается заново, по полной цене. Частые причины:- текущая дата, время или случайный ID в системном промпте;
- список инструментов, который меняется от запроса к запросу (другой порядок, добавили или убрали инструмент);
- документы, которые каждый раз вставляются в разном порядке;
- служебная пометка, которую программа дописывает в начало истории.
3. Сжимайте старую историю
После 20–30 ходов замените старую часть диалога коротким резюме, а последние несколько сообщений оставьте как есть. Резюме можно делать дешёвой моделью, напримерdeepseek-flash. Делайте это редко — раз в несколько десятков ходов, а не на каждом: после сжатия начало промпта меняется, и кэш один раз пишется заново.
4. Отправляйте нужное, а не всё
Если из большого документа или базы знаний для ответа нужен один раздел, не отправляйте целиком. Разбейте текст на части, найдите подходящие по смыслу (моделиtext-embedding-3-small и text-embedding-3-large доступны по тому же ключу) и отправляйте только их. Запрос на 5 тыс. токенов вместо 300 тыс. дешевле в десятки раз, а модель меньше отвлекается на лишнее.
5. Выберите модель под длину контекста
- Длинная переписка, ролевые чаты, поддержка, черновики —
deepseek-flash: одна цена при любой длине, контекст до 1 млн токенов. - Самая низкая цена за токен, задачи попроще —
gemini-2.5-flash-lite: одна цена при любой длине, контекст до 1 млн токенов. - До 272 тыс. токенов и нужна GPT —
gpt-6-luna, самая дешёвая GPT у нас. - Короткие промпты, нужен именно Claude —
claude-haiku-5-5, пока промпт короче 100 тыс. токенов. - Сложный анализ длинного документа, где важна точность —
claude-sonnet-5-5с кэшем: цена не растёт на длинных запросах, а кэш снимает основную часть счёта.
6. Задавайте вопросы пачкой
Если у вас несколько вопросов к одному и тому же длинному документу, отправляйте их подряд, без перерывов: у Claude кэш по умолчанию живёт 5 минут после последнего запроса, и после паузы длинный контекст снова оплачивается полностью. А если вопросы известны заранее, их можно задать одним запросом и получить ответы списком — длинный документ уйдёт модели один раз.Частые вопросы
Я спросил одно слово, а запрос стоил как большой текст. Почему?
Я спросил одно слово, а запрос стоил как большой текст. Почему?
Вместе с вашим словом модели ушла вся история диалога и системный промпт — модель не хранит их между запросами. В Журнале запросов видно, сколько токенов было на входе. Чем длиннее история, тем дороже каждый следующий вопрос.
Входят ли токены из кэша в порог 100, 200 или 272 тыс. токенов?
Входят ли токены из кэша в порог 100, 200 или 272 тыс. токенов?
Да. Порог считается по всему промпту: и обычные токены, и токены из кэша. Если промпт длиннее порога, весь запрос, включая кэш, оплачивается по старшей ступени.
Какая модель дешевле всего для документа на 500 тыс. токенов?
Какая модель дешевле всего для документа на 500 тыс. токенов?
По цене за токен —
gemini-2.5-flash-lite: контекст до 1 млн токенов и одна цена при любой длине. Если нужна модель посильнее, возьмите deepseek-flash — у него тоже 1 млн токенов и одна цена. Если вопросов к документу несколько, задавайте их подряд, чтобы повторный контекст читался из кэша.Что лучше: сжимать историю или полагаться на кэш?
Что лучше: сжимать историю или полагаться на кэш?
И то, и другое. Кэш делает повторный контекст дешёвым, но платить за него всё равно приходится на каждом ходу, а длинный контекст легко переходит порог ступенчатой цены. Сжатие раз в несколько десятков ходов уменьшает сам контекст. Главное — не сжимать на каждом ходу, иначе кэш не будет срабатывать.
Как понять, что кэш не срабатывает?
Как понять, что кэш не срабатывает?
Откройте Журнал запросов → детали записи. Если на повторных запросах строка «Токены из кэша» пустая или маленькая, значит, начало промпта меняется от запроса к запросу (см. способ 2), или между запросами прошло больше 5 минут (для Claude, по умолчанию).
Дальше
Кэширование промптов
Как работает кэш Claude, GPT и DeepSeek и как проверить попадание.
Экономия в Claude Code и Cline
То же самое для агентов программирования: кэш, /compact, выбор модели.
DeepSeek или Claude
Один и тот же день работы по ценам разных моделей.
Цены
Все модели, ступени и цены кэша.