LlamaIndex
LlamaIndex — LLM 应用的数据框架，含索引和 RAG。
分析复杂
技术栈组成
FrameworkLlamaIndex 0.x
为什么
文档索引，查询引擎，100+ 数据加载器，优化的 RAG 流水线。PostHog 和 Plausible 提供隐私优先分析，无需 GDPR 同意横幅，2024 年增长 200%。
BigQuery 和 ClickHouse 以 5 美元/TB 处理 PB 级数据。
何时使用
用于私有数据 RAG。避免非 RAG LLM 应用。
如何做
1. pip install llamaindex
2. 加载文档
3. 构建索引
4. 查询引擎
5. 添加环境配置 — cp .env.example .env && 编辑值
6. 运行测试 — npm test 或 pnpm test 验证设置
7. 部署 — git push 触发 CI/CD 或手动部署
示例
from llama_index.core import VectorStoreIndex, SimpleDirectoryReader
docs = SimpleDirectoryReader('./data').load_data()
index = VectorStoreIndex.from_documents(docs)
index.as_query_engine().query('这是什么？')
常见问题
- ⚠索引大 — 用向量存储后端
- ⚠检索质量 — 调优 chunk_size 和 similarity_top_k
- ⚠环境间配置漂移 — 使用基础设施即代码（Terraform/Pulumi）保持 dev/staging/prod 一致
最佳实践
- ✓用 embedding 缓存
- ✓尝试不同分块策略
- ✓设置健康检查和优雅关闭 — 处理 SIGTERM 以在退出前排空进行中的请求
常见问题解答
什么是LlamaIndex？适合做什么项目？
LlamaIndex — LLM 应用的数据框架，含索引和 RAG。 它通过分层组合提供端到端类型安全与开箱即用的部署体验，适合从 MVP 到生产 SaaS 的快速迭代。
如何用LlamaIndex在 10 分钟内跑通一个 demo？
两步起步：① pip install llamaindex；② 加载文档。先跑通本地 dev server，再接一个真实数据源验证端到端链路。
LlamaIndex 最常见的坑是什么？怎么避免？
最高频的坑是：索引大 — 用向量存储后端。避免方法：在 PR 模板里加入对应 checklist，CI 中跑类型检查 + lint + 单测，三重把关再合并。
LlamaIndex 的最佳实践有哪些？
LlamaIndex 的最佳实践包括：用 embedding 缓存；尝试不同分块策略；设置健康检查和优雅关闭 — 处理 SIGTERM 以在退出前排空进行中的请求。其中首条「用 embedding 缓存」应在项目初始化时就落地，避免后期返工。
什么情况下不该选LlamaIndex？
三种情况另选他栈：① 团队对该栈核心框架零经验且工期紧张（学习曲线风险）；② 项目是纯内容/营销站（选 Astro 更轻）；③ 需要极高吞吐（>1 万 RPS）或强一致微服务（选 Go/Rust）。LlamaIndex 的强项是中高复杂度全栈与 API，别在简单静态页上过度工程。