大模型「一本正经胡说八道」是其落地的最大障碍。RAG（检索增强生成）配合向量数据库，让模型基于私有知识回答问题，是当下企业 AI 化的标配方案。
RAG 的工作原理
用户提问 → 向量化 → 在知识库中检索最相关片段 → 拼入 Prompt → 大模型生成回答。简单四步，即可让模型引用真实文档而非凭空捏造。
向量数据库怎么选
- 开源：Milvus、Qdrant、Weaviate、Chroma。
- 云服务：Pinecone、Zilliz Cloud、阿里云 DashVector。
- 数据库内嵌：PostgreSQL pgvector、Elasticsearch dense_vector。
选择取决于数据规模、延迟要求与运维能力。
进阶：从朴素 RAG 到 Agentic RAG
朴素 RAG 一次检索就出答案，复杂问题容易答错。Agentic RAG 让模型自主决定「要不要再查」「查哪个库」「问几次」，显著提升复杂任务准确率。
评估与监控
RAG 系统需要回答三件事：检索召回率、答案忠实度、引用准确率。RAGAS、ARES 等自动化评估工具正在成为新标配。
未来：多模态 + 知识图谱融合
纯向量检索适合模糊语义，强结构化关系需要知识图谱补足。Hybrid RAG 与 GraphRAG 是 2026 年的两个明确方向。
