Few-Shot Chain of Thought

В классическом Few-Shot CoT модели показывают несколько примеров задачи вместе с промежуточным решением и ответом. Модель продолжает этот паттерн на новом входе.

Когда применять

  • простая инструкция не задаёт нужный метод решения;
  • задачи имеют повторяемую формальную структуру;
  • промежуточные вычисления можно объективно проверить;
  • модель и конкретный сценарий показали улучшение на eval-наборе.

Пример

Вопрос: Было 10 элементов. 3 перенесли, 2 удалили. Сколько осталось?
Проверяемое решение: 10 - 3 - 2 = 5.
Ответ: 5
 
Вопрос: Было 18 задач. 4 завершили, 3 отменили. Сколько осталось?
Проверяемое решение: 18 - 4 - 3 = 11.
Ответ: 11
 
Вопрос: {новая задача}
Проверяемое решение:
Ответ:

Показывай минимально достаточное проверяемое решение. Длинный литературный монолог учит модель многословию, а ошибка в демонстрации закрепляет ошибочный метод.

Ограничения

  • Техника изначально исследовалась на конкретных моделях и reasoning-бенчмарках; это не универсальный стандарт.
  • Современные reasoning-модели могут лучше работать с короткой целью и встроенной настройкой effort.
  • Примеры занимают контекст и иногда ухудшают перенос на другие типы входов.
  • Видимое объяснение нельзя считать точным отражением внутренней работы модели.

Сначала проверь zero-shot baseline, затем сравни с few-shot на одном наборе задач.

Источник

См. также: Zero-shot vs Few-shot Prompting, Chain of Thought (CoT), Тестирование промптов.