AI Stack 2026

AI Stack: карта системы

Суть

AI-приложение — не одна модель, а набор слоёв. Эта карта помогает понять, где находится проблема: в модели, данных, инструментах, оркестрации, интерфейсе или эксплуатации.

Слои

Слой	За что отвечает	Примеры
Модели	Генерация, рассуждение и [[Multimodality	мультимодальный ввод/вывод]]
Доступ к моделям	API или локальный runtime	OpenAI API, Anthropic API, Ollama, LM Studio, llama.cpp
Инструкции	Задача, правила и формат ответа	System Prompt, few-shot, Structured Output
Контекст и знания	Данные текущего запроса и найденные документы	Context Window, Context Engineering, RAG, Embeddings, vector/keyword search
Инструменты	Действия во внешних системах	Tool Use Function Calling, MCP (Model Context Protocol)
Оркестрация	Циклы, состояние, ветвления и остановка	Harness, LangChain, LangGraph, LlamaIndex, AutoGen
Качество	Повторяемые проверки, трассировка и ручная оценка	Evals, LLM-as-a-Judge, deterministic checks, Observability and Tracing
Безопасность	Права, изоляция, подтверждения и защита данных	Guardrails, Indirect Prompt Injection, Протоколы Автономности
Интерфейс	Способ работы человека с системой	Chat, IDE, CLI, web UI, голос, Computer Use
Эксплуатация	Стоимость, задержка, масштабирование и мониторинг	caching, batch, rate limits, deployment

Как читать карту

Пример: помощник по базе знаний

Obsidian
  → индексирование и retrieval
  → отобранные фрагменты
  → модель
  → ответ со ссылками на заметки

Если поиск возвращает плохие фрагменты, смена модели может не решить проблему. Если фрагменты хорошие, но ответ нарушает формат, смотри на инструкции, structured output и evals.

Пример: агент для кода

цель пользователя
  → харнес читает репозиторий
  → модель предлагает изменение
  → инструмент меняет файл
  → тесты и diff проверяют результат
  → модель исправляет ошибку или завершает задачу

Надёжность здесь определяется не только моделью, но и правами, качеством инструментов, тестами и условием остановки.

Типовые архитектуры

• Простой чат: интерфейс + модель + системная инструкция.
• RAG: ingestion + индекс + retrieval + модель + цитирование.
• Агент: модель + tools + цикл + состояние + ограничения.
• Локальный помощник: локальный runtime + open-weight модель + UI; облачные инструменты подключаются отдельно.
• Production-система: всё выше плюс evals, observability, контроль стоимости, безопасность и fallback.

Куда идти дальше

• Справочник основных LLM — выбор продукта и семейства моделей.
• Справочник LLM API — API и стоимость.
• _Glossary Index — базовые понятия.
• _Agentic Systems Index — агентные системы.
• _Frameworks Index — фреймворки.
• _Local AI Index — локальный запуск.

Почему здесь мало ссылок

Wikilinks ведут только на существующие заметки. Названия продуктов без отдельной страницы оставлены обычным текстом, чтобы граф Obsidian не состоял из фиктивных узлов.