Chain of Thought (CoT)
Суть
Chain of Thought (Цепочка рассуждений) — это техника, заставляющая LLM генерировать промежуточные логические шаги перед тем, как прийти к итоговому ответу. Это переводит модель из режима «быстрого, интуитивного мышления» в режим «медленного, аналитического».
⚙️ Почему это работает?
В основе LLM лежит предсказание следующего токена. Если вы просите сразу выдать ответ, модель делает один «прыжок» через пространство вероятностей.
- Увеличение вычислительного пути: Каждый сгенерированный токен рассуждения становится контекстом для следующего. Модель буквально «опирается» на свои предыдущие верные выводы.
- Снижение вероятности галлюцинаций: Ошибки часто возникают при попытке упростить сложную логику. Проговаривание шагов позволяет модели «заметить» противоречие в процессе.
[Image of Chain of Thought prompting vs Standard prompting flow]
🛠 Ключевые фразы (Триггеры)
Самый простой способ активировать CoT — добавить в конец промпта магическую фразу:
- “Давай думать пошагово” (Let’s think step by step) — классический триггер.
- “Разбей решение на логические этапы” — для более структурированных ответов.
- “Прежде чем дать ответ, проанализируй вводные данные” — для задач на извлечение информации.
📋 Пример сравнения
Обычный запрос:
“Сколько связей будет в графе из 5 заметок, если каждая связана с каждой?” Ответ (может ошибиться): “10”. (Или “20”, если модель поспешит).
CoT-запрос:
“Сколько связей будет в графе из 5 заметок, если каждая связана с каждой? Давай думать пошагово.” Рассуждение модели:
- У нас есть 5 узлов.
- Первый узел соединяется с 4 другими.
- Второй — с 3 оставшимися (связь с первым уже учтена).
- Третий — с 2. Четвертый — с 1.
- Суммируем: . Ответ: 10.
🚀 Применение на практике
Для локальной вики CoT полезен в «исследовательских» шаблонах: