Reasoning Tokens (Токены рассуждения)
Определение
Reasoning tokens — вычислительный бюджет, который некоторые модели расходуют на внутреннюю обработку задачи перед финальным ответом или между действиями. Точный учёт и доступность этих токенов зависят от API.
Важно различать
- Входные токены — инструкции и данные запроса.
- Reasoning tokens — дополнительная внутренняя работа модели, если провайдер выделяет её отдельно.
- Выходные токены — видимый ответ и, в некоторых API, краткое summary рассуждения.
Reasoning tokens не равны показанной пользователю цепочке рассуждений. Полный внутренний процесс может быть недоступен, а видимое объяснение — отдельным сгенерированным текстом.
Компромисс
Больший reasoning effort иногда помогает сложным задачам, но увеличивает задержку и стоимость и не гарантирует правильность. Для простого извлечения или форматирования высокий бюджет может быть избыточен.
Практика
- измеряй качество, стоимость и задержку на своих evals;
- не сравнивай цены моделей только по видимым токенам ответа;
- проверяй, входит ли reasoning в лимит вывода и как тарифицируется;
- не требуй раскрытия скрытой цепочки — проси проверяемое краткое обоснование.