LlamaIndex
Суть
LlamaIndex — data-centric framework для ingestion, индексации, retrieval, query engines, RAG и агентов над частными данными. Это набор заменяемых компонентов, а не «магическая точность поиска».
Основной конвейер
- Load / ingest — получить документы и метаданные, разбить и преобразовать их.
- Index / store — построить представление и сохранить его в выбранном хранилище.
- Retrieve / rerank — найти и переупорядочить кандидатов.
- Synthesize — сформировать ответ из извлечённого контекста.
- Evaluate — отдельно измерить retrieval и итоговый ответ.
Ключевые абстракции включают documents/nodes, indexes, retrievers, query engines, agents и event-driven Workflows. Коннекторы вынесены в LlamaHub; managed-возможности LlamaCloud следует оценивать отдельно от open-source framework.
Workflows вместо старого QueryPipeline
Workflows описывают асинхронные шаги, события, ветвления и циклы. Старый QueryPipeline feature-frozen и подлежит удалению; для нового кода документация рекомендует Workflows.
Когда выбирать
- главная сложность проекта находится в ingestion и retrieval;
- источники и индексы нужно часто менять или комбинировать;
- нужен агент, чьи основные tools работают с данными;
- нужны готовые data connectors и RAG-компоненты.
Не выбирай автоматически только потому, что в проекте есть PDF. Для маленькой базы знаний достаточно простого pipeline, если он прозрачен и проходит evals.
Что измерять
- полноту и точность retrieval на размеченных вопросах;
- качество chunking, metadata filters, reranking и цитат;
- freshness: как обновляются и удаляются документы;
- права доступа до retrieval, а не после генерации;
- latency и стоимость каждого этапа;
- устойчивость к indirect prompt injection в документах.