Agentic RAG、GraphRAG 与微调：架构选择指南

需要模型选择或重复搜索时，评估 Agentic RAG；需要实体关系或跨文档主题时，评估 GraphRAG；需要稳定的任务行为或输出方式时，评估微调。 文档问答先建立固定检索基线，再根据实际失败原因增加机制。三者可以组合：智能体调用图谱检索工具，微调模型利用检索到的证据生成答案。

用户请求经过搜索控制，进入文档或图谱检索，再由生成模型给出答案；离线训练通过虚线连接生成模型。 — 搜索控制、证据表示和模型适配可以分别选择。

下面按搜索控制、证据表示和模型适配三个层面比较，并连接 AI 数据架构演讲，帮助企业知识应用确定下一项架构改动。

比较每种方案改变的层面

LangChain 检索指南区分了生成前固定检索与模型自主决定检索时机、方式的流程。AWS Prescriptive Guidance建议自有文档问答从 RAG 起步，也介绍了检索与微调生成模型的组合。

方案	适用问题	更新路径	运行工作与证据
方案固定两步 RAG	适用问题已知搜索步骤即可找到证据，再生成答案。	更新路径刷新文档分块、嵌入和搜索元数据。	运行工作与证据固定检索与生成路径；保留引用的原文片段。
方案Agentic RAG	适用问题需要选择来源，或根据前一步结果继续搜索。	更新路径维护各来源及向智能体开放的检索工具。	运行工作与证据搜索与模型调用次数可变；保留工具轨迹和原文。
方案Microsoft GraphRAG：local	适用问题特定实体及其关联信息。	更新路径刷新抽取的图谱数据及关联文本。	运行工作与证据组合图谱上下文和原文分块。
方案Microsoft GraphRAG：global	适用问题贯穿文档集合的主题。	更新路径维护图社区及生成的报告。	运行工作与证据对社区报告执行 map-reduce；回到原文核对摘要主张。
方案微调	适用问题证据充分后仍重复出现的任务、风格或格式偏差。	更新路径整理样本、训练并评估新模型版本。	运行工作与证据运行适配后的模型；通过检索提供最新文档证据及引用。

从失败答案定位问题：缺少原文片段，先查检索质量；反复选错来源，先查路由与工具选择；遗漏集合中的主题，先查检索与综合范围；证据正确但格式持续错误，评估提示词和模型适配。

按问题范围选择 GraphRAG

先区分实体问题和集合问题。Microsoft GraphRAG 查询概览中的 local search 组合图谱数据与原文分块，global search 则处理社区报告。DRIFT 从社区上下文生成后续问题，basic search 提供基础向量检索对照。

高亮实体及相邻节点与原文片段共同生成局部答案；三个图谱社区通过各自报告形成全局综合答案。 — 实体问题与集合主题需要不同范围的证据。

在供应商文档应用中，“哪些合同提到这家供应商？”适合精确片段检索；“哪些供应商依赖同一项资源？”需要关联证据；“整个集合反复出现哪些风险？”需要广泛综合。将这三类问题分别纳入评估，观察各方案在不同任务上的表现。

GraphRAG 论文《From Local to Global》针对新闻文章和播客转录文本的全局理解问题开展实验，两套语料各约一百万 token。以大模型为裁判的比较中，全局方法相对其向量 RAG 基线，在全面性和多样性上更好；按主张计量的实验中，全局图搜索与直接对原文做图谱之外的综合，在这些指标上未呈现统计显著差异。评估集合级综合时，可将原文 map-reduce、向量检索和 GraphRAG 同时列为候选。

让智能体控制满足响应时限

当下一次搜索依赖已有结果时，智能体的额外步骤才有明确用途。先限定可用且获授权的工具，设定最大迭代次数，并记录停止原因，再与固定流程比较答案质量和端到端延迟。

LangChain 指出，两步 RAG 限定了模型调用次数，在模型推理占主导时有助于提高可预测性；数据库、网络及工具耗时仍会影响整体响应。串行调用会逐步累积耗时，并行分支则取决于必须等待的最慢分支。应在预期并发下记录完整请求及尾部延迟。

串行路径可按以下关系核算：

T_answer = T_route + sum(T_search_i + T_model_i) + T_final

T_route 表示初始路由，T_search_i 表示第 i 轮检索，T_model_i 表示该轮中间模型处理，T_final 表示最终答案生成。所有时长采用同一单位，每段调用轨迹只计入一个阶段。

并行搜索将串行搜索总和替换为该搜索阶段的实际时长，包括最慢必要分支及结果合并。测量时将排队和重试计入对应阶段；超出应用响应时限的路径应缩短或设置上限。

Azure 实现选择。 Azure AI Search 的 agentic retrieval 文档区分了跳过大模型规划的 minimal 与生成子查询的 low、medium。子查询并行执行，随后重排与合并结果。截至 2026 年 10 月，2026-04-01 API 支持正式可用来源类型的 minimal 抽取式检索；大模型规划和答案综合使用 2026-08-01-preview。预览功能不在服务级别协议保障范围内，生产选型应先明确所需功能的支持状态。

在选模型前确定更新路径

证据更新和模型行为更新有不同的发布路径。修订后的政策需要进入搜索索引及回答使用的派生上下文；新的输出惯例先进入提示词，评估证明有必要时再进入训练与模型发布流程。

来源修订分别更新分块与嵌入或图谱报告，经评估后提供证据；行为样本则经过训练、评估和模型发布。 — 新证据和已学习行为各有更新周期，两个周期均设置评估检查点。

文档检索： 导入修订内容，更新分块、嵌入及元数据，使受影响缓存失效，再检查原先命中旧段落的问题是否返回新证据。
Microsoft GraphRAG： 标准索引流程抽取实体和关系，检测社区并生成报告。主张抽取是可选功能，默认关闭，启用时应按应用需要抽取的主张调整提示词。CLI update 命令更新现有索引，默认将新索引写入 update_output。切换查询前先评估新输出，并把图谱及报告刷新纳入更新预算。
微调： 更新训练样本，训练、评估候选模型，再发布选定版本。依赖频繁变化知识的答案继续使用文档检索；AWS 的指导明确介绍了这种组合架构。

将新鲜度定义为权威来源修订到获授权答案可以使用该修订的时间。除新增内容，还要测试删除和权限撤销，检查派生报告及缓存是否仍暴露已移除材料。评估结果同时记录来源、索引和模型版本，使更新路径可验证。

在同一工作负载下比较延迟与成本驱动因素

保持问题组合、语料、权限过滤和评估周期一致，将导入维护与在线服务分开：

C_period = C_ingestion + C_index_refresh + C_training + C_serving + C_storage + C_evaluation + C_operations

每个候选方案按实际工作计入成本。Agentic RAG 统计规划、工具、重试、重排输入及最终生成 token；GraphRAG 加上索引时的抽取与报告生成，以及查询时处理的报告；微调计入样本整理、训练、回归评估和推理。

将所有请求、子查询及分块处理记录中实际送入重排器的 token 相加，即可得到搜索扩展带来的工作量。初步预算可用 重排 token = 请求数 × 每请求平均子查询数 × 每子查询平均分块数 × 每次分块处理的平均 token 数；各均值分别按同一工作负载中的全部请求、子查询和分块处理记录计算。同一分块每次重排均计入工作量，容量规划同时保留请求级分布。Azure 的计费将搜索检索 token 与规划或综合使用的模型 token 分开；分别按当前合同费率核算各项计量。

比较向量存储时，分别测试精确标识符和语义匹配。Azure 混合搜索将关键词与向量查询结果通过 reciprocal rank fusion 合并。文档将名称、产品代码、日期和专业术语列为可受益于精确关键词匹配的场景。保持嵌入模型和分块边界一致，再比较权限过滤、更新删除、排序和引用元数据。

用验收结果决定下一项改动

建立留出的评估集，包含预期证据和目标答案；覆盖精确事实、实体关联、集合主题、无法回答的问题及权限撤销场景。在比较候选方案前确定质量、新鲜度和响应时限要求。

每个答案记录允许访问的来源、检索片段、来源与索引版本、工具路径、引用、耗时和失败原因，然后一次改变一个层面：

缺少支持段落，修复导入、分块、权限过滤或检索。
下一来源依赖先前结果，评估带明确停止预算的智能体步骤。
缺少实体关系或广泛主题，分别比较 local/global 图检索及对应基线。
证据充分但行为仍不正确，在同一留出任务集上比较提示词改进与微调。

保留满足要求的最简单方案；检索和训练分别解决不同失败时，再组合两者。

沿架构问题继续阅读演讲

Build 2026 工具与文档讨论

适合继续了解工具选择和文档准备。

re:Invent SageMaker 演讲

围绕失败的假设及下一次尝试的代价展开，可用于思考实验背后的数据平台决策。

Build HorizonDB 演讲

则提供数据库团队对版本发布及 AI 开发的讨论。

继续浏览 AI 数据架构主题，查看相关演讲记录和来源定位。

来源

更新于 2026 年 10 月。