Temperature (Температура)
Определение
Temperature — это гиперпараметр LLM, который регулирует степень случайности (креативности) при выборе следующего слова (токена). Он определяет, насколько сильно модель готова отклоняться от самого вероятного варианта ответа.
⚙️ Как это работает
Математически температура меняет форму распределения вероятностей для следующего токена:
- Низкая температура: Делает распределение «острым». Модель выбирает только самые очевидные, статистически верные варианты.
- Высокая температура: «Сглаживает» распределение. У менее вероятных слов появляется шанс быть выбранными, что рождает неожиданные связи и идеи.
📊 Шкала настройки
| Значение | Эффект | Рекомендуемые задачи |
|---|---|---|
| 0.0 - 0.2 | Детерминизм: Ответы стабильны, сухи и точны. | Написание кода, математика, фактология, извлечение данных. |
| 0.3 - 0.7 | Баланс: Модель звучит естественно, но не уходит в фантазии. | Суммаризация, ответы на общие вопросы, ведение переписки. |
| 0.8 - 1.0 | Креативность: Высокая вариативность, богатый язык. | Мозговой штурм, написание стихов, генерация идей для сюжета. |
| > 1.0 | Хаос: Модель может начать терять смысл или нарушать грамматику. | Экспериментальное творчество, поиск крайне нестандартных метафор. |
🛠 Применение на практике
В плагинах для базы знаний (напр. Text Generator) этот параметр часто выносится в настройки шаблона:
- Для поиска связей: Устанавливай . Тебе нужно, чтобы ИИ находил реальные логические цепочки в твоей базе, а не выдумывал их.
- Для рефлексии: Устанавливай . Если ты просишь ИИ «покритиковать мои убеждения», более высокая температура поможет ему взглянуть на проблему под необычным углом.
Взаимосвязь с ошибками
Чем выше температура, тем выше риск возникновения галлюцинаций. Если точность фактов критична — всегда снижай температуру до минимума.
Связанные концепции
- Hallucination — прямое следствие завышенной температуры