Temperature (Температура)
Определение
Temperature — параметр семплирования, который изменяет распределение вероятностей следующего токена. Низкое значение концентрирует вероятность на наиболее вероятных вариантах, высокое увеличивает разнообразие выборки.
Что температура не делает
- не проверяет факты;
- не превращает модель в детерминированный алгоритм;
- не гарантирует одинаковый эффект у разных моделей и API;
- не заменяет schema validation, retrieval или проверку результата.
Даже при temperature 0 ответы могут различаться из-за инфраструктуры, обновления модели, параллельных вычислений и других настроек.
Практический выбор
| Задача | Стартовая настройка |
|---|---|
| Извлечение и строгий формат | Низкая температура и [[Structured Output |
| Код и анализ | Низкая или умеренная; проверка тестами важнее значения |
| Обычный текст | Умеренная |
| Идеи и варианты | Умеренная или высокая с последующим отбором |
Числовые диапазоны зависят от провайдера. Некоторые reasoning-модели ограничивают или игнорируют этот параметр.
Связанные параметры
Temperature взаимодействует с top-p, top-k, min-p, repetition penalty, seed и настройками reasoning. Обычно не стоит одновременно агрессивно менять несколько способов семплирования без теста.