Agent (Агент)
Определение
ИИ-агент — программная система, в которой модель управляет многошаговым циклом: получает состояние задачи, выбирает следующее действие или инструмент, наблюдает результат и продолжает до остановки.
Агент, workflow и чат-бот
| Тип | Кто задаёт последовательность |
|---|---|
| Чат-бот | Обычно отвечает на один запрос без действий во внешней среде |
| Workflow | Шаги и переходы в основном определены разработчиком |
| Агент | Модель динамически выбирает часть следующих действий |
| Agentic workflow | Сочетает детерминированные шаги и ограниченную самостоятельность модели |
Автономность — степень, а не обязательное свойство «всё делает сам». Полезный агент может останавливаться перед рискованным действием и запрашивать подтверждение.
Минимальный цикл
- Получить цель и текущее состояние.
- Выбрать допустимое действие.
- Вызвать инструмент либо сформировать ответ.
- Проверить наблюдение или ошибку.
- Завершить работу либо продолжить до лимита итераций.
Планирование, память, рефлексия и несколько агентов — возможные дополнения, но не обязательные части определения.
Из чего состоит агентная система
- Модель — предлагает решения.
- Харнес — управляет циклом, контекстом, инструментами и остановкой.
- Инструменты — выполняют действия с явными схемами входа и выхода.
- Состояние — хранит прогресс, результаты и ошибки.
- Ограничения — права, лимиты, песочница, подтверждения.
- Наблюдаемость и evals — позволяют понять, что произошло и насколько хорошо.
Практическое правило
Чем выше цена ошибки, тем меньше свободы следует давать модели. Чтение и черновики можно автоматизировать шире; удаление данных, публикацию, платежи и сообщения людям — ограничивать правами и подтверждением.
Связанные заметки
- Анатомия Агента — подробная архитектура.
- Harness — управляющая обвязка.
- Tool Use Function Calling — вызов инструментов.
- Протоколы Автономности — ограничения и подтверждения.
- Multi-Agent Systems — несколько взаимодействующих агентов.
- Computer Use — действия через графический интерфейс.
- Guardrails — внешние защитные ограничения.