一、为什么需要 Agentic RAG?
传统 RAG(Retrieval-Augmented Generation,检索增强生成)通常采用固定的检索流程:
- 接收用户问题。
- 将问题转换为向量。
- 执行向量检索。
- 获取 Top-K 文本片段。
- 将文本片段交给大语言模型。
- 生成最终答案。
这种架构简单、稳定,适合大多数基础知识问答场景。
但在复杂问题中,固定检索链路存在明显局限。
例如,用户提出:
对比目前主流开源大模型的推理能力、部署成本和适用场景,并分析它们在企业知识库系统中的选型差异。
这个问题实际上包含多个子任务:
- 识别主流开源模型。
- 查询模型的推理能力。
- 获取模型部署要求。
- 分析硬件和运行成本。
- 比较不同模型的适用场景。
- 结合企业知识库架构进行选型。
- 汇总多个来源的信息并给出结论。
如果只执行一次向量检索,很难保证召回的信息完整、准确。
传统 RAG 还有几个典型问题:
- 不会主动判断当前问题是否需要检索。
- 不会根据问题复杂度选择不同检索策略。
- 检索结果不足时,通常不会主动发起下一轮检索。
- 无法根据检索质量动态调整查询。
- 多个子问题之间缺少明确的任务规划。
- 对检索失败、证据冲突和信息缺失缺乏自主处理能力。
Agentic RAG 的核心思路是:
让大语言模型不再只是检索结果的使用者,而是成为检索过程的决策者和协调者。
系统能够根据当前任务动态决定:
- 是否需要检索?
- 应该检索什么?
- 使用哪种检索工具?
- 是否需要改写查询?
- 是否需要拆分问题?
- 当前证据是否足够?
- 是否需要继续检索?
- 是否可以生成最终答案?
这使 RAG 从固定流水线演进为具有规划、执行、观察和调整能力的智能检索系统。
二、什么是 Agentic RAG?
Agentic RAG 是将 Agent(智能体)能力引入 RAG 系统的一种架构模式。
它通过大语言模型进行任务规划和决策,调用检索工具获取信息,根据工具返回结果评估当前状态,并决定下一步行动。
2.1 Agentic RAG 的核心组成
一个典型的 Agentic RAG 系统包含以下模块:
| 模块 | 主要职责 |
|---|---|
| LLM | 理解问题、规划任务、判断检索策略 |
| Agent Controller | 管理执行状态和任务流程 |
| Query Planner | 拆解问题并生成检索计划 |
| Retriever | 执行向量、关键词、图检索等操作 |
| Tool Registry | 注册和管理可调用工具 |
| Evidence Evaluator | 评估检索证据的相关性和充分性 |
| Memory | 保存对话上下文和任务状态 |
| Generator | 根据证据生成最终答案 |
| Guardrails | 控制权限、安全边界和执行限制 |
其中,最重要的变化是引入了决策循环。
传统 RAG 的检索过程通常是预先确定的,而 Agentic RAG 可以根据执行结果动态改变后续动作。
2.2 Agentic RAG 的基本工作流程
flowchart TD
A["用户问题"]
B["Agent 理解问题"]
C["判断是否需要检索"]
D{"是否需要外部知识"}
E["直接生成答案"]
F["制定检索计划"]
G["选择检索工具"]
H["执行检索"]
I["观察检索结果"]
J["评估证据质量"]
K{"证据是否充分"}
L["调整查询策略"]
M["整合证据"]
N["生成最终答案"]
A --> B --> C --> D
D -->|"否"| E
D -->|"是"| F --> G --> H --> I --> J --> K
K -->|"否"| L --> G
K -->|"是"| M --> N
style A fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style B fill:#EAF3EC,stroke:#83A995,color:#315D49
style C fill:#EAF3EC,stroke:#83A995,color:#315D49
style D fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style E fill:#DCEFE5,stroke:#83A995,color:#315D49
style F fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style G fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style H fill:#EAF3EC,stroke:#83A995,color:#315D49
style I fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style J fill:#EAF3EC,stroke:#83A995,color:#315D49
style K fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style L fill:#F7EAE7,stroke:#C98D7C,color:#754438
style M fill:#EAF3EC,stroke:#83A995,color:#315D49
style N fill:#DCEFE5,stroke:#83A995,color:#315D49
这个流程体现了 Agentic RAG 的三个核心特点:
- 动态规划:根据问题决定执行哪些检索任务。
- 反馈驱动:根据工具返回结果判断下一步操作。
- 迭代执行:证据不足时可以继续检索,而不是立即生成答案。
需要注意,Agentic RAG 并不意味着所有任务都必须由 Agent 自主完成。
实际系统通常会采用规则、状态机和模型决策相结合的方式,对关键步骤进行约束。
三、传统 RAG 与 Agentic RAG 的区别
两者最重要的区别,不是是否使用大语言模型,而是检索过程是否具备动态决策能力。
3.1 架构区别
传统 RAG:
flowchart LR
A["用户问题"]
B["固定查询处理"]
C["固定检索策略"]
D["Top-K 召回"]
E["上下文构建"]
F["LLM 生成"]
G["最终答案"]
A --> B --> C --> D --> E --> F --> G
style A fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style B fill:#EAF3EC,stroke:#83A995,color:#315D49
style C fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style D fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style E fill:#EAF3EC,stroke:#83A995,color:#315D49
style F fill:#DCEFE5,stroke:#83A995,color:#315D49
style G fill:#DCEFE5,stroke:#83A995,color:#315D49
Agentic RAG:
flowchart TD
A["用户问题"]
B["Agent 规划"]
C["选择检索策略"]
D["调用检索工具"]
E["观察结果"]
F["评估质量"]
G{"是否满足任务要求"}
H["重新规划"]
I["整合证据"]
J["生成答案"]
A --> B --> C --> D --> E --> F --> G
G -->|"否"| H --> C
G -->|"是"| I --> J
style A fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style B fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style C fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style D fill:#EAF3EC,stroke:#83A995,color:#315D49
style E fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style F fill:#EAF3EC,stroke:#83A995,color:#315D49
style G fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style H fill:#F7EAE7,stroke:#C98D7C,color:#754438
style I fill:#DCEFE5,stroke:#83A995,color:#315D49
style J fill:#DCEFE5,stroke:#83A995,color:#315D49
3.2 核心差异对比
| 对比维度 | 传统 RAG | Agentic RAG |
|---|---|---|
| 检索策略 | 固定 | 动态选择 |
| 查询处理 | 通常单次处理 | 可以多轮改写和拆解 |
| 任务规划 | 预定义流程 | Agent 动态规划或混合规划 |
| 检索次数 | 通常一次或固定次数 | 根据任务动态决定 |
| 证据评估 | 通常依赖固定排序 | 可以增加独立评估环节 |
| 工具调用 | 固定检索组件 | 可以选择多个工具 |
| 失败处理 | 预设降级策略 | 可以根据错误反馈调整 |
| 复杂问题 | 依赖单次检索效果 | 可以拆分任务逐步解决 |
| 执行成本 | 相对可控 | 可能更高 |
| 系统复杂度 | 相对简单 | 更高 |
3.3 Agentic RAG 不一定比传统 RAG 更好
Agentic RAG 增加了模型调用、任务规划、工具调度和反馈评估。
这意味着它可能带来:
- 更多 Token 消耗。
- 更高的响应延迟。
- 更多模型调用次数。
- 更复杂的状态管理。
- 更难预测的执行路径。
- 更大的系统调试成本。
对于简单问题,传统 RAG 通常更高效。
例如:
公司员工年假制度是什么?
如果知识库中存在明确的年假制度文档,直接检索并生成答案即可,没有必要启动复杂的 Agent 循环。
因此,真正合理的设计是:
简单问题走固定 RAG,复杂问题走 Agentic RAG。
四、自适应检索(Adaptive Retrieval)
自适应检索是 Agentic RAG 的核心能力之一。
它强调根据问题特征、检索结果和执行状态,动态调整检索行为。
传统检索通常使用固定参数:
- 固定 Top-K。
- 固定检索器。
- 固定查询表达。
- 固定召回策略。
- 固定重排序流程。
自适应检索则可以根据实际情况调整这些参数和策略。
4.1 自适应检索的核心维度
| 自适应维度 | 调整内容 |
|---|---|
| 检索决策 | 是否需要检索 |
| 检索深度 | 单次检索还是多轮检索 |
| 检索方式 | 向量、关键词、图检索或混合检索 |
| 查询策略 | 原始查询、查询改写、多查询 |
| Top-K | 动态调整召回数量 |
| 检索范围 | 指定文档、知识库或外部来源 |
| 重排序 | 是否启用 Reranker |
| 证据评估 | 判断证据是否相关、充分和可信 |
| 停止条件 | 决定是否继续搜索 |
4.2 检索决策:是否需要检索?
并不是所有问题都需要 RAG。
可以根据问题类型、模型已有知识、实时性要求和外部数据依赖判断是否检索。
例如:
| 用户问题 | 检索策略 |
|---|---|
| 什么是 HTTP? | 可以直接回答 |
| 公司内部报销标准是什么? | 必须检索内部知识库 |
| 今天美元兑人民币汇率是多少? | 需要实时数据工具 |
| 分析这份技术文档 | 需要读取文档并检索相关内容 |
| 对比多个模型的最新价格 | 需要检索最新公开信息 |
这里需要区分两种情况:
- 模型能够凭已有知识回答。
- 模型拥有足够可靠、当前有效的证据回答。
二者并不相同。
对于内部知识、实时信息、业务数据和高风险事实,不能仅凭模型的主观判断跳过检索。
4.3 检索策略动态选择
不同问题适合不同检索方式。
| 检索方式 | 适用场景 |
|---|---|
| Dense Retrieval | 语义相似、自然语言问题 |
| BM25 | 关键词、编号、专有名词 |
| Hybrid Search | 同时需要语义与关键词 |
| Reranker | 初步召回后提升排序质量 |
| Multi-Query | 原始查询表达不充分 |
| HyDE | 查询与目标文档表达差异较大 |
| Graph Retrieval | 多实体、多跳关系 |
| Web Search | 需要公开、实时信息 |
| SQL | 精确查询结构化业务数据 |
Agent 可以根据问题选择一个或多个检索器。
例如:
用户询问:
某订单为什么没有完成发货?
系统可能需要:
- 通过 SQL 查询订单状态。
- 检索物流异常记录。
- 检索订单处理规则。
- 根据时间和业务状态关联结果。
- 综合证据解释原因。
单纯使用向量检索,很难完成这种跨数据源的查询。
4.4 动态 Top-K
传统 RAG 常使用固定的 Top-K 参数。
例如:
retriever.search(
query=query,
top_k=5
)
但不同问题需要的证据数量可能差异很大。
- 简单事实查询:可能只需要 2~3 个片段。
- 多条件问题:可能需要 5~10 个片段。
- 多实体分析:可能需要更多分散证据。
- 长文档综合分析:可能需要分阶段检索。
自适应检索可以根据证据质量动态调整 Top-K。
def adaptive_retrieve(query, retriever):
top_k = 3
max_top_k = 15
while top_k <= max_top_k:
results = retriever.search(
query=query,
top_k=top_k
)
score = evaluate_evidence(results)
if score.is_sufficient:
return results
top_k += 3
return results
这个示例只是简化逻辑。
真实系统不能只根据向量相似度阈值判断证据充分性,还需要考虑:
- 是否覆盖问题中的关键条件。
- 是否存在相互独立的证据。
- 是否存在来源冲突。
- 是否包含过时信息。
- 是否能支持最终结论。
4.5 自适应检索的完整过程
flowchart TD
A["接收问题"]
B["问题分类"]
C{"是否需要外部证据"}
D["直接回答"]
E["选择检索策略"]
F["执行初始检索"]
G["评估召回结果"]
H{"证据是否充分"}
I["改写查询"]
J["调整 Top-K"]
K["切换检索器"]
L["执行二次检索"]
M["证据整合"]
N["生成答案"]
A --> B --> C
C -->|"否"| D
C -->|"是"| E --> F --> G --> H
H -->|"否"| I
H -->|"否"| J
H -->|"否"| K
I --> L
J --> L
K --> L
L --> G
H -->|"是"| M --> N
style A fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style B fill:#EAF3EC,stroke:#83A995,color:#315D49
style C fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style D fill:#DCEFE5,stroke:#83A995,color:#315D49
style E fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style F fill:#EAF3EC,stroke:#83A995,color:#315D49
style G fill:#EAF3EC,stroke:#83A995,color:#315D49
style H fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style I fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style J fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style K fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style L fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style M fill:#DCEFE5,stroke:#83A995,color:#315D49
style N fill:#DCEFE5,stroke:#83A995,color:#315D49
需要增加最大迭代次数、超时和成本限制,避免证据不足时无限检索。
五、Agentic RAG 的核心模式
Agentic RAG 并不是只有一种架构。
根据任务规划和执行方式,可以设计出多种检索模式。
5.1 Query Routing:查询路由
查询路由(Query Routing)是最基础的 Agentic RAG 模式。
系统先分析问题,再选择合适的数据源或检索器。
例如:
- 技术问题:技术知识库。
- 企业制度问题:内部文档库。
- 订单问题:业务数据库。
- 最新行业信息:Web Search。
- 多实体关系问题:Graph Database。
flowchart TD
A["用户问题"]
B["问题分类与意图识别"]
C{"选择数据源"}
D["技术知识库"]
E["企业文档库"]
F["业务数据库"]
G["外部搜索"]
H["检索结果"]
I["统一结果处理"]
J["生成答案"]
A --> B --> C
C -->|"技术问题"| D
C -->|"制度问题"| E
C -->|"业务问题"| F
C -->|"实时问题"| G
D --> H
E --> H
F --> H
G --> H
H --> I --> J
style A fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style B fill:#EAF3EC,stroke:#83A995,color:#315D49
style C fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style D fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style E fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style F fill:#DCEFE5,stroke:#83A995,color:#315D49
style G fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style H fill:#EAF3EC,stroke:#83A995,color:#315D49
style I fill:#EAF3EC,stroke:#83A995,color:#315D49
style J fill:#DCEFE5,stroke:#83A995,color:#315D49
查询路由不一定需要复杂 Agent。
对于业务场景明确、数据源稳定的系统,规则路由通常更可控。
当问题语义复杂、数据源较多时,可以让 LLM 辅助进行路由决策。
5.2 Query Rewriting:查询改写
用户提出的问题不一定适合直接检索。
例如:
它为什么这么慢?
系统缺少明确的检索目标。
如果前文讨论的是某个数据库,那么可以结合对话上下文将问题改写为:
PostgreSQL 在高并发写入场景下出现响应延迟的常见原因有哪些?
查询改写的目标是将自然语言问题转化为更适合检索的表达。
常见方式:
- 补充上下文。
- 消除指代。
- 补充关键实体。
- 明确查询范围。
- 补充时间和条件。
- 将复杂问题转换为多个检索查询。
查询改写的风险是改变用户原始意图。
因此,系统应该保留原始问题,并将改写结果作为检索辅助信息,而不是直接替换用户的真实需求。
5.3 Multi-Query:多查询检索
Multi-Query 通过一个问题生成多个不同表达的查询,以提高召回覆盖率。
例如:
原始问题:
RAG 如何降低大模型幻觉?
可以生成:
查询 1:RAG 如何通过外部知识减少模型幻觉?
查询 2:检索增强生成如何约束模型回答依据?
查询 3:如何利用知识库和证据引用提高答案可信度?
查询 4:RAG 在事实一致性和答案可验证性方面有哪些局限?
之后并行执行检索,并对结果去重、融合和排序。
flowchart TD
A["原始问题"]
B["生成多个查询"]
C["查询一"]
D["查询二"]
E["查询三"]
F["并行检索"]
G["结果一"]
H["结果二"]
I["结果三"]
J["结果去重"]
K["结果融合"]
L["Reranker 排序"]
M["最终证据"]
A --> B
B --> C
B --> D
B --> E
C --> F
D --> F
E --> F
F --> G
F --> H
F --> I
G --> J
H --> J
I --> J
J --> K --> L --> M
style A fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style B fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style C fill:#EAF3EC,stroke:#83A995,color:#315D49
style D fill:#EAF3EC,stroke:#83A995,color:#315D49
style E fill:#EAF3EC,stroke:#83A995,color:#315D49
style F fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style G fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style H fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style I fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style J fill:#EAF3EC,stroke:#83A995,color:#315D49
style K fill:#EAF3EC,stroke:#83A995,color:#315D49
style L fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style M fill:#DCEFE5,stroke:#83A995,color:#315D49
Multi-Query 的优势是扩大语义覆盖范围。
但查询数量增加也会带来更多噪声、重复内容和检索成本。
5.4 Decomposition:问题分解
复杂问题往往包含多个需要分别检索的信息点。
例如:
对比 Redis、Kafka 和 RabbitMQ 的消息处理机制、可靠性和适用场景。
可以拆分为:
- Redis 的消息处理机制。
- Kafka 的消息处理机制。
- RabbitMQ 的消息处理机制。
- 三者的消息可靠性对比。
- 三者的典型适用场景。
- 根据业务约束形成选型建议。
每个子问题独立检索,最后汇总。
flowchart TD
A["复杂问题"]
B["任务分解"]
C["子问题一:Redis"]
D["子问题二:Kafka"]
E["子问题三:RabbitMQ"]
F["子问题四:可靠性对比"]
G["子问题五:场景分析"]
H["并行检索"]
I["子任务结果"]
J["结果整合"]
K["生成综合答案"]
A --> B
B --> C
B --> D
B --> E
B --> F
B --> G
C --> H
D --> H
E --> H
F --> H
G --> H
H --> I --> J --> K
style A fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style B fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style C fill:#EAF3EC,stroke:#83A995,color:#315D49
style D fill:#EAF3EC,stroke:#83A995,color:#315D49
style E fill:#EAF3EC,stroke:#83A995,color:#315D49
style F fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style G fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style H fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style I fill:#EAF3EC,stroke:#83A995,color:#315D49
style J fill:#DCEFE5,stroke:#83A995,color:#315D49
style K fill:#DCEFE5,stroke:#83A995,color:#315D49
问题分解需要保留子任务之间的依赖关系。
例如,选型建议必须建立在前面的机制、性能和业务条件分析之上。
不能仅仅把问题拆成多个独立查询,然后无条件合并结果。
5.5 Iterative Retrieval:迭代检索
迭代检索是 Agentic RAG 的重要能力。
它不是一次检索后立即生成答案,而是根据当前证据判断是否需要继续检索。
例如:
第一轮检索发现:
- 已经找到 Kafka 的消息可靠性机制。
- 已经找到 RabbitMQ 的消息确认机制。
- 缺少 Redis Streams 的持久化机制。
系统可以针对缺失信息发起第二轮检索。
第二轮完成后,再评估整体证据是否充分。
5.6 Corrective RAG:纠正式检索
Corrective RAG(CRAG)强调对检索结果进行评估,并根据评估结果采取纠正措施。
其核心思想是:
- 检索结果相关时,继续使用证据。
- 检索结果不相关时,重新检索。
- 内部知识不足时,可以根据策略寻找其他信息来源。
- 对低质量证据进行过滤,避免直接传递给生成模型。
需要区分:CRAG 是一种纠正检索质量的设计思路,不等同于所有 Agentic RAG 系统,也不意味着一定要联网搜索。
5.7 Self-RAG:自我反思式检索
Self-RAG 通过模型的自我评估机制,判断何时检索、如何使用检索结果,以及生成内容是否得到证据支持。
其关注点包括:
- 是否需要检索。
- 检索结果是否相关。
- 生成内容是否得到证据支持。
- 回答是否符合问题要求。
Self-RAG 与普通 Agentic RAG 的侧重点不同:
- Agentic RAG 更强调 Agent 的规划、工具调用和执行控制。
- Self-RAG 更强调生成过程中的检索决策与自我反思。
两者可以结合,但不能简单视为同一种方法。
六、证据评估:Agent 如何判断检索结果是否可靠?
Agentic RAG 能否真正优于传统 RAG,很大程度上取决于证据评估能力。
如果系统无法判断当前检索结果是否足够可靠,那么即使拥有多轮检索,也可能只是不断重复搜索。
6.1 证据评估的核心维度
| 评估维度 | 需要判断的问题 |
|---|---|
| Relevance | 证据是否与问题相关? |
| Coverage | 是否覆盖问题中的关键条件? |
| Sufficiency | 当前证据是否足以回答问题? |
| Consistency | 不同证据之间是否存在冲突? |
| Freshness | 信息是否过时? |
| Authority | 来源是否可信? |
| Traceability | 是否能够追溯原始来源? |
6.2 相关性不等于充分性
这是 Agentic RAG 中非常重要的一个概念。
假设用户询问:
Kafka 如何保证消息可靠性?
检索结果包含:
- Kafka 的分区机制。
- Kafka 的消费者组机制。
- Kafka 的消息确认机制。
这些内容都与 Kafka 有关。
但如果缺少生产者确认、消费者提交偏移量和副本机制等关键内容,仍然不能认为证据充分。
因此,不能简单使用相似度分数判断是否完成任务。
6.3 证据充分性评估
可以将问题拆解为若干必要的信息点,分别检查证据覆盖情况。
例如:
| 必要信息点 | 是否覆盖 |
|---|---|
| Producer 确认机制 | 是 |
| Broker 副本机制 | 是 |
| Consumer Offset 提交 | 否 |
| 消费失败处理 | 否 |
| 重复消费问题 | 是 |
此时,即使已经检索到多个相关文档,也不能直接生成完整的技术结论。
可以进一步发起针对缺失信息点的检索。
6.4 证据评分模型
可以构建一个综合证据评分模型:
其中:
- R:相关性。
- C:覆盖率。
- S_f:证据充分性。
- T:来源可信度。
- A:时效性。
- w_r,w_c,w_s,w_t,w_a:对应权重。
权重需要根据业务场景确定,并不适合直接使用一组通用固定值。
例如:
- 技术原理问答更关注相关性和覆盖率。
- 金融信息更关注来源可信度和时效性。
- 企业制度问答更关注版本有效性和来源权威性。
这个评分模型可以作为工程设计参考,但不应直接把不同维度的评分当成客观概率。
6.5 证据评估的决策流程
flowchart TD
A["获取检索结果"]
B["相关性评估"]
C{"是否相关"}
D["过滤无关结果"]
E["覆盖率评估"]
F{"关键内容是否覆盖"}
G["定位缺失信息"]
H["补充检索"]
I["来源可信度与时效性评估"]
J{"证据是否可信且有效"}
K["检查证据冲突"]
L{"是否存在未解决冲突"}
M["进入人工审核或保留不确定性"]
N["形成可用证据集"]
O["交给生成模型"]
A --> B --> C
C -->|"否"| D
C -->|"是"| E
D --> E
E --> F
F -->|"否"| G --> H --> A
F -->|"是"| I --> J
J -->|"否"| G
J -->|"是"| K --> L
L -->|"是"| M
L -->|"否"| N --> O
style A fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style B fill:#EAF3EC,stroke:#83A995,color:#315D49
style C fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style D fill:#F7EAE7,stroke:#C98D7C,color:#754438
style E fill:#EAF3EC,stroke:#83A995,color:#315D49
style F fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style G fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style H fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style I fill:#EAF3EC,stroke:#83A995,color:#315D49
style J fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style K fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style L fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style M fill:#F7EAE7,stroke:#C98D7C,color:#754438
style N fill:#DCEFE5,stroke:#83A995,color:#315D49
style O fill:#DCEFE5,stroke:#83A995,color:#315D49
实际工程中,证据评估可以由规则、交叉编码器、专用评估模型或 LLM 共同完成。
对于高风险任务,不能只依靠同一个生成模型对自己的输出进行自我评价。
七、Agentic RAG 的执行机制:Plan、Act、Observe、Reflect
Agentic RAG 的运行方式与 Agent 的执行循环密切相关。
一个常见的抽象模型是:
- Plan:规划任务。
- Act:执行行动。
- Observe:观察结果。
- Reflect:反思和调整。
7.1 Plan:任务规划
Agent 首先理解用户目标,将复杂问题拆分成可以执行的任务。
例如:
分析某企业是否适合使用 GraphRAG 构建知识管理系统。
可以拆解为:
- 了解企业现有知识库规模。
- 分析文档之间的关联程度。
- 判断是否存在多实体、多跳关系查询需求。
- 分析知识图谱构建成本。
- 对比传统 RAG 和 GraphRAG。
- 给出架构建议。
规划阶段需要明确:
- 任务目标。
- 子任务列表。
- 任务依赖。
- 所需工具。
- 执行顺序。
- 完成条件。
7.2 Act:执行行动
Agent 根据规划调用不同工具。
例如:
- Vector Search。
- BM25 Search。
- Graph Query。
- SQL Query。
- Web Search。
- Document Reader。
- Reranker。
工具调用通常需要经过统一的工具注册和参数校验机制。
7.3 Observe:观察结果
Agent 接收工具返回的数据。
观察内容包括:
- 查询是否成功。
- 返回了多少结果。
- 结果是否为空。
- 结果是否相关。
- 是否出现超时。
- 是否存在数据冲突。
- 是否需要继续检索。
工具执行成功不代表任务已经完成。
例如,图数据库返回了 20 条关系,并不意味着这些关系能够回答用户的问题。
7.4 Reflect:反思与调整
Agent 根据观察结果判断当前策略是否有效。
可能的调整包括:
- 修改查询条件。
- 改写关键词。
- 增加检索范围。
- 切换检索器。
- 调整 Top-K。
- 拆分子任务。
- 结束当前任务。
- 返回证据不足的说明。
7.5 Agent 执行循环
flowchart TD
A["接收用户目标"]
B["Plan:制定计划"]
C["Act:调用工具"]
D["Observe:观察结果"]
E["Reflect:评估执行状态"]
F{"任务是否完成"}
G["更新计划"]
H["整合结果"]
I["生成最终答案"]
A --> B --> C --> D --> E --> F
F -->|"否"| G --> C
F -->|"是"| H --> I
style A fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style B fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style C fill:#EAF3EC,stroke:#83A995,color:#315D49
style D fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style E fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style F fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style G fill:#F7EAE7,stroke:#C98D7C,color:#754438
style H fill:#EAF3EC,stroke:#83A995,color:#315D49
style I fill:#DCEFE5,stroke:#83A995,color:#315D49
这个循环可以持续多轮,但必须设置最大执行步数、最大耗时和最大成本。
否则,Agent 可能因为无法判断任务完成条件而不断调用工具。
八、Agentic RAG 的系统架构设计
一个生产级 Agentic RAG 系统,需要将智能决策与确定性执行分开。
不能让大语言模型直接控制所有底层资源。
8.1 分层架构
| 架构层 | 核心组件 | 职责 |
|---|---|---|
| 接入层 | API Gateway、会话管理 | 接收请求和管理用户上下文 |
| Agent 层 | Planner、Controller | 任务规划和流程控制 |
| 决策层 | Router、Evaluator | 选择检索策略和评估证据 |
| 工具层 | Retriever、SQL、Graph、Web | 执行外部操作 |
| 知识层 | Vector DB、Graph DB、Document Store | 存储知识和索引 |
| 生成层 | LLM、Context Builder | 构建上下文和生成答案 |
| 治理层 | Guardrails、Observability | 权限、安全、监控和审计 |