返回专栏
· 30 分钟阅读

Agentic RAG 与自适应检索:从固定检索链路到智能决策系统


一、为什么需要 Agentic RAG?

传统 RAG(Retrieval-Augmented Generation,检索增强生成)通常采用固定的检索流程:

  1. 接收用户问题。
  2. 将问题转换为向量。
  3. 执行向量检索。
  4. 获取 Top-K 文本片段。
  5. 将文本片段交给大语言模型。
  6. 生成最终答案。

这种架构简单、稳定,适合大多数基础知识问答场景。

但在复杂问题中,固定检索链路存在明显局限。

例如,用户提出:

对比目前主流开源大模型的推理能力、部署成本和适用场景,并分析它们在企业知识库系统中的选型差异。

这个问题实际上包含多个子任务:

  • 识别主流开源模型。
  • 查询模型的推理能力。
  • 获取模型部署要求。
  • 分析硬件和运行成本。
  • 比较不同模型的适用场景。
  • 结合企业知识库架构进行选型。
  • 汇总多个来源的信息并给出结论。

如果只执行一次向量检索,很难保证召回的信息完整、准确。

传统 RAG 还有几个典型问题:

  • 不会主动判断当前问题是否需要检索。
  • 不会根据问题复杂度选择不同检索策略。
  • 检索结果不足时,通常不会主动发起下一轮检索。
  • 无法根据检索质量动态调整查询。
  • 多个子问题之间缺少明确的任务规划。
  • 对检索失败、证据冲突和信息缺失缺乏自主处理能力。

Agentic RAG 的核心思路是:

让大语言模型不再只是检索结果的使用者,而是成为检索过程的决策者和协调者。

系统能够根据当前任务动态决定:

  • 是否需要检索?
  • 应该检索什么?
  • 使用哪种检索工具?
  • 是否需要改写查询?
  • 是否需要拆分问题?
  • 当前证据是否足够?
  • 是否需要继续检索?
  • 是否可以生成最终答案?

这使 RAG 从固定流水线演进为具有规划、执行、观察和调整能力的智能检索系统。

二、什么是 Agentic RAG?

Agentic RAG 是将 Agent(智能体)能力引入 RAG 系统的一种架构模式。

它通过大语言模型进行任务规划和决策,调用检索工具获取信息,根据工具返回结果评估当前状态,并决定下一步行动。

2.1 Agentic RAG 的核心组成

一个典型的 Agentic RAG 系统包含以下模块:

模块 主要职责
LLM 理解问题、规划任务、判断检索策略
Agent Controller 管理执行状态和任务流程
Query Planner 拆解问题并生成检索计划
Retriever 执行向量、关键词、图检索等操作
Tool Registry 注册和管理可调用工具
Evidence Evaluator 评估检索证据的相关性和充分性
Memory 保存对话上下文和任务状态
Generator 根据证据生成最终答案
Guardrails 控制权限、安全边界和执行限制

其中,最重要的变化是引入了决策循环。

传统 RAG 的检索过程通常是预先确定的,而 Agentic RAG 可以根据执行结果动态改变后续动作。

2.2 Agentic RAG 的基本工作流程

flowchart TD
    A["用户问题"]
    B["Agent 理解问题"]
    C["判断是否需要检索"]
    D{"是否需要外部知识"}
    E["直接生成答案"]
    F["制定检索计划"]
    G["选择检索工具"]
    H["执行检索"]
    I["观察检索结果"]
    J["评估证据质量"]
    K{"证据是否充分"}
    L["调整查询策略"]
    M["整合证据"]
    N["生成最终答案"]

    A --> B --> C --> D
    D -->|"否"| E
    D -->|"是"| F --> G --> H --> I --> J --> K
    K -->|"否"| L --> G
    K -->|"是"| M --> N

    style A fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
    style B fill:#EAF3EC,stroke:#83A995,color:#315D49
    style C fill:#EAF3EC,stroke:#83A995,color:#315D49
    style D fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
    style E fill:#DCEFE5,stroke:#83A995,color:#315D49
    style F fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style G fill:#EAE8FA,stroke:#A49BD5,color:#51477D
    style H fill:#EAF3EC,stroke:#83A995,color:#315D49
    style I fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style J fill:#EAF3EC,stroke:#83A995,color:#315D49
    style K fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
    style L fill:#F7EAE7,stroke:#C98D7C,color:#754438
    style M fill:#EAF3EC,stroke:#83A995,color:#315D49
    style N fill:#DCEFE5,stroke:#83A995,color:#315D49

这个流程体现了 Agentic RAG 的三个核心特点:

  1. 动态规划:根据问题决定执行哪些检索任务。
  2. 反馈驱动:根据工具返回结果判断下一步操作。
  3. 迭代执行:证据不足时可以继续检索,而不是立即生成答案。

需要注意,Agentic RAG 并不意味着所有任务都必须由 Agent 自主完成。

实际系统通常会采用规则、状态机和模型决策相结合的方式,对关键步骤进行约束。

三、传统 RAG 与 Agentic RAG 的区别

两者最重要的区别,不是是否使用大语言模型,而是检索过程是否具备动态决策能力。

3.1 架构区别

传统 RAG:

flowchart LR
    A["用户问题"]
    B["固定查询处理"]
    C["固定检索策略"]
    D["Top-K 召回"]
    E["上下文构建"]
    F["LLM 生成"]
    G["最终答案"]

    A --> B --> C --> D --> E --> F --> G

    style A fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
    style B fill:#EAF3EC,stroke:#83A995,color:#315D49
    style C fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style D fill:#EAE8FA,stroke:#A49BD5,color:#51477D
    style E fill:#EAF3EC,stroke:#83A995,color:#315D49
    style F fill:#DCEFE5,stroke:#83A995,color:#315D49
    style G fill:#DCEFE5,stroke:#83A995,color:#315D49

Agentic RAG:

flowchart TD
    A["用户问题"]
    B["Agent 规划"]
    C["选择检索策略"]
    D["调用检索工具"]
    E["观察结果"]
    F["评估质量"]
    G{"是否满足任务要求"}
    H["重新规划"]
    I["整合证据"]
    J["生成答案"]

    A --> B --> C --> D --> E --> F --> G
    G -->|"否"| H --> C
    G -->|"是"| I --> J

    style A fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
    style B fill:#EAE8FA,stroke:#A49BD5,color:#51477D
    style C fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style D fill:#EAF3EC,stroke:#83A995,color:#315D49
    style E fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style F fill:#EAF3EC,stroke:#83A995,color:#315D49
    style G fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
    style H fill:#F7EAE7,stroke:#C98D7C,color:#754438
    style I fill:#DCEFE5,stroke:#83A995,color:#315D49
    style J fill:#DCEFE5,stroke:#83A995,color:#315D49

3.2 核心差异对比

对比维度 传统 RAG Agentic RAG
检索策略 固定 动态选择
查询处理 通常单次处理 可以多轮改写和拆解
任务规划 预定义流程 Agent 动态规划或混合规划
检索次数 通常一次或固定次数 根据任务动态决定
证据评估 通常依赖固定排序 可以增加独立评估环节
工具调用 固定检索组件 可以选择多个工具
失败处理 预设降级策略 可以根据错误反馈调整
复杂问题 依赖单次检索效果 可以拆分任务逐步解决
执行成本 相对可控 可能更高
系统复杂度 相对简单 更高

3.3 Agentic RAG 不一定比传统 RAG 更好

Agentic RAG 增加了模型调用、任务规划、工具调度和反馈评估。

这意味着它可能带来:

  • 更多 Token 消耗。
  • 更高的响应延迟。
  • 更多模型调用次数。
  • 更复杂的状态管理。
  • 更难预测的执行路径。
  • 更大的系统调试成本。

对于简单问题,传统 RAG 通常更高效。

例如:

公司员工年假制度是什么?

如果知识库中存在明确的年假制度文档,直接检索并生成答案即可,没有必要启动复杂的 Agent 循环。

因此,真正合理的设计是:

简单问题走固定 RAG,复杂问题走 Agentic RAG。

四、自适应检索(Adaptive Retrieval)

自适应检索是 Agentic RAG 的核心能力之一。

它强调根据问题特征、检索结果和执行状态,动态调整检索行为。

传统检索通常使用固定参数:

  • 固定 Top-K。
  • 固定检索器。
  • 固定查询表达。
  • 固定召回策略。
  • 固定重排序流程。

自适应检索则可以根据实际情况调整这些参数和策略。

4.1 自适应检索的核心维度

自适应维度 调整内容
检索决策 是否需要检索
检索深度 单次检索还是多轮检索
检索方式 向量、关键词、图检索或混合检索
查询策略 原始查询、查询改写、多查询
Top-K 动态调整召回数量
检索范围 指定文档、知识库或外部来源
重排序 是否启用 Reranker
证据评估 判断证据是否相关、充分和可信
停止条件 决定是否继续搜索

4.2 检索决策:是否需要检索?

并不是所有问题都需要 RAG。

可以根据问题类型、模型已有知识、实时性要求和外部数据依赖判断是否检索。

例如:

用户问题 检索策略
什么是 HTTP? 可以直接回答
公司内部报销标准是什么? 必须检索内部知识库
今天美元兑人民币汇率是多少? 需要实时数据工具
分析这份技术文档 需要读取文档并检索相关内容
对比多个模型的最新价格 需要检索最新公开信息

这里需要区分两种情况:

  • 模型能够凭已有知识回答。
  • 模型拥有足够可靠、当前有效的证据回答。

二者并不相同。

对于内部知识、实时信息、业务数据和高风险事实,不能仅凭模型的主观判断跳过检索。

4.3 检索策略动态选择

不同问题适合不同检索方式。

检索方式 适用场景
Dense Retrieval 语义相似、自然语言问题
BM25 关键词、编号、专有名词
Hybrid Search 同时需要语义与关键词
Reranker 初步召回后提升排序质量
Multi-Query 原始查询表达不充分
HyDE 查询与目标文档表达差异较大
Graph Retrieval 多实体、多跳关系
Web Search 需要公开、实时信息
SQL 精确查询结构化业务数据

Agent 可以根据问题选择一个或多个检索器。

例如:

用户询问:

某订单为什么没有完成发货?

系统可能需要:

  1. 通过 SQL 查询订单状态。
  2. 检索物流异常记录。
  3. 检索订单处理规则。
  4. 根据时间和业务状态关联结果。
  5. 综合证据解释原因。

单纯使用向量检索,很难完成这种跨数据源的查询。

4.4 动态 Top-K

传统 RAG 常使用固定的 Top-K 参数。

例如:

retriever.search(
    query=query,
    top_k=5
)

但不同问题需要的证据数量可能差异很大。

  • 简单事实查询:可能只需要 2~3 个片段。
  • 多条件问题:可能需要 5~10 个片段。
  • 多实体分析:可能需要更多分散证据。
  • 长文档综合分析:可能需要分阶段检索。

自适应检索可以根据证据质量动态调整 Top-K。

def adaptive_retrieve(query, retriever):
    top_k = 3
    max_top_k = 15

    while top_k <= max_top_k:
        results = retriever.search(
            query=query,
            top_k=top_k
        )

        score = evaluate_evidence(results)

        if score.is_sufficient:
            return results

        top_k += 3

    return results

这个示例只是简化逻辑。

真实系统不能只根据向量相似度阈值判断证据充分性,还需要考虑:

  • 是否覆盖问题中的关键条件。
  • 是否存在相互独立的证据。
  • 是否存在来源冲突。
  • 是否包含过时信息。
  • 是否能支持最终结论。

4.5 自适应检索的完整过程

flowchart TD
    A["接收问题"]
    B["问题分类"]
    C{"是否需要外部证据"}
    D["直接回答"]
    E["选择检索策略"]
    F["执行初始检索"]
    G["评估召回结果"]
    H{"证据是否充分"}
    I["改写查询"]
    J["调整 Top-K"]
    K["切换检索器"]
    L["执行二次检索"]
    M["证据整合"]
    N["生成答案"]

    A --> B --> C
    C -->|"否"| D
    C -->|"是"| E --> F --> G --> H
    H -->|"否"| I
    H -->|"否"| J
    H -->|"否"| K
    I --> L
    J --> L
    K --> L
    L --> G
    H -->|"是"| M --> N

    style A fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
    style B fill:#EAF3EC,stroke:#83A995,color:#315D49
    style C fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
    style D fill:#DCEFE5,stroke:#83A995,color:#315D49
    style E fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style F fill:#EAF3EC,stroke:#83A995,color:#315D49
    style G fill:#EAF3EC,stroke:#83A995,color:#315D49
    style H fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
    style I fill:#EAE8FA,stroke:#A49BD5,color:#51477D
    style J fill:#EAE8FA,stroke:#A49BD5,color:#51477D
    style K fill:#EAE8FA,stroke:#A49BD5,color:#51477D
    style L fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style M fill:#DCEFE5,stroke:#83A995,color:#315D49
    style N fill:#DCEFE5,stroke:#83A995,color:#315D49

需要增加最大迭代次数、超时和成本限制,避免证据不足时无限检索。

五、Agentic RAG 的核心模式

Agentic RAG 并不是只有一种架构。

根据任务规划和执行方式,可以设计出多种检索模式。

5.1 Query Routing:查询路由

查询路由(Query Routing)是最基础的 Agentic RAG 模式。

系统先分析问题,再选择合适的数据源或检索器。

例如:

  • 技术问题:技术知识库。
  • 企业制度问题:内部文档库。
  • 订单问题:业务数据库。
  • 最新行业信息:Web Search。
  • 多实体关系问题:Graph Database。
flowchart TD
    A["用户问题"]
    B["问题分类与意图识别"]
    C{"选择数据源"}
    D["技术知识库"]
    E["企业文档库"]
    F["业务数据库"]
    G["外部搜索"]
    H["检索结果"]
    I["统一结果处理"]
    J["生成答案"]

    A --> B --> C
    C -->|"技术问题"| D
    C -->|"制度问题"| E
    C -->|"业务问题"| F
    C -->|"实时问题"| G
    D --> H
    E --> H
    F --> H
    G --> H
    H --> I --> J

    style A fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
    style B fill:#EAF3EC,stroke:#83A995,color:#315D49
    style C fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
    style D fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style E fill:#EAE8FA,stroke:#A49BD5,color:#51477D
    style F fill:#DCEFE5,stroke:#83A995,color:#315D49
    style G fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
    style H fill:#EAF3EC,stroke:#83A995,color:#315D49
    style I fill:#EAF3EC,stroke:#83A995,color:#315D49
    style J fill:#DCEFE5,stroke:#83A995,color:#315D49

查询路由不一定需要复杂 Agent。

对于业务场景明确、数据源稳定的系统,规则路由通常更可控。

当问题语义复杂、数据源较多时,可以让 LLM 辅助进行路由决策。

5.2 Query Rewriting:查询改写

用户提出的问题不一定适合直接检索。

例如:

它为什么这么慢?

系统缺少明确的检索目标。

如果前文讨论的是某个数据库,那么可以结合对话上下文将问题改写为:

PostgreSQL 在高并发写入场景下出现响应延迟的常见原因有哪些?

查询改写的目标是将自然语言问题转化为更适合检索的表达。

常见方式:

  • 补充上下文。
  • 消除指代。
  • 补充关键实体。
  • 明确查询范围。
  • 补充时间和条件。
  • 将复杂问题转换为多个检索查询。

查询改写的风险是改变用户原始意图。

因此,系统应该保留原始问题,并将改写结果作为检索辅助信息,而不是直接替换用户的真实需求。

5.3 Multi-Query:多查询检索

Multi-Query 通过一个问题生成多个不同表达的查询,以提高召回覆盖率。

例如:

原始问题:

RAG 如何降低大模型幻觉?

可以生成:

查询 1:RAG 如何通过外部知识减少模型幻觉?

查询 2:检索增强生成如何约束模型回答依据?

查询 3:如何利用知识库和证据引用提高答案可信度?

查询 4:RAG 在事实一致性和答案可验证性方面有哪些局限?

之后并行执行检索,并对结果去重、融合和排序。

flowchart TD
    A["原始问题"]
    B["生成多个查询"]
    C["查询一"]
    D["查询二"]
    E["查询三"]
    F["并行检索"]
    G["结果一"]
    H["结果二"]
    I["结果三"]
    J["结果去重"]
    K["结果融合"]
    L["Reranker 排序"]
    M["最终证据"]

    A --> B
    B --> C
    B --> D
    B --> E
    C --> F
    D --> F
    E --> F
    F --> G
    F --> H
    F --> I
    G --> J
    H --> J
    I --> J
    J --> K --> L --> M

    style A fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
    style B fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style C fill:#EAF3EC,stroke:#83A995,color:#315D49
    style D fill:#EAF3EC,stroke:#83A995,color:#315D49
    style E fill:#EAF3EC,stroke:#83A995,color:#315D49
    style F fill:#EAE8FA,stroke:#A49BD5,color:#51477D
    style G fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
    style H fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
    style I fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
    style J fill:#EAF3EC,stroke:#83A995,color:#315D49
    style K fill:#EAF3EC,stroke:#83A995,color:#315D49
    style L fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style M fill:#DCEFE5,stroke:#83A995,color:#315D49

Multi-Query 的优势是扩大语义覆盖范围。

但查询数量增加也会带来更多噪声、重复内容和检索成本。

5.4 Decomposition:问题分解

复杂问题往往包含多个需要分别检索的信息点。

例如:

对比 Redis、Kafka 和 RabbitMQ 的消息处理机制、可靠性和适用场景。

可以拆分为:

  1. Redis 的消息处理机制。
  2. Kafka 的消息处理机制。
  3. RabbitMQ 的消息处理机制。
  4. 三者的消息可靠性对比。
  5. 三者的典型适用场景。
  6. 根据业务约束形成选型建议。

每个子问题独立检索,最后汇总。

flowchart TD
    A["复杂问题"]
    B["任务分解"]
    C["子问题一:Redis"]
    D["子问题二:Kafka"]
    E["子问题三:RabbitMQ"]
    F["子问题四:可靠性对比"]
    G["子问题五:场景分析"]
    H["并行检索"]
    I["子任务结果"]
    J["结果整合"]
    K["生成综合答案"]

    A --> B
    B --> C
    B --> D
    B --> E
    B --> F
    B --> G
    C --> H
    D --> H
    E --> H
    F --> H
    G --> H
    H --> I --> J --> K

    style A fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
    style B fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style C fill:#EAF3EC,stroke:#83A995,color:#315D49
    style D fill:#EAF3EC,stroke:#83A995,color:#315D49
    style E fill:#EAF3EC,stroke:#83A995,color:#315D49
    style F fill:#EAE8FA,stroke:#A49BD5,color:#51477D
    style G fill:#EAE8FA,stroke:#A49BD5,color:#51477D
    style H fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style I fill:#EAF3EC,stroke:#83A995,color:#315D49
    style J fill:#DCEFE5,stroke:#83A995,color:#315D49
    style K fill:#DCEFE5,stroke:#83A995,color:#315D49

问题分解需要保留子任务之间的依赖关系。

例如,选型建议必须建立在前面的机制、性能和业务条件分析之上。

不能仅仅把问题拆成多个独立查询,然后无条件合并结果。

5.5 Iterative Retrieval:迭代检索

迭代检索是 Agentic RAG 的重要能力。

它不是一次检索后立即生成答案,而是根据当前证据判断是否需要继续检索。

例如:

第一轮检索发现:

  • 已经找到 Kafka 的消息可靠性机制。
  • 已经找到 RabbitMQ 的消息确认机制。
  • 缺少 Redis Streams 的持久化机制。

系统可以针对缺失信息发起第二轮检索。

第二轮完成后,再评估整体证据是否充分。

5.6 Corrective RAG:纠正式检索

Corrective RAG(CRAG)强调对检索结果进行评估,并根据评估结果采取纠正措施。

其核心思想是:

  • 检索结果相关时,继续使用证据。
  • 检索结果不相关时,重新检索。
  • 内部知识不足时,可以根据策略寻找其他信息来源。
  • 对低质量证据进行过滤,避免直接传递给生成模型。

需要区分:CRAG 是一种纠正检索质量的设计思路,不等同于所有 Agentic RAG 系统,也不意味着一定要联网搜索。

5.7 Self-RAG:自我反思式检索

Self-RAG 通过模型的自我评估机制,判断何时检索、如何使用检索结果,以及生成内容是否得到证据支持。

其关注点包括:

  • 是否需要检索。
  • 检索结果是否相关。
  • 生成内容是否得到证据支持。
  • 回答是否符合问题要求。

Self-RAG 与普通 Agentic RAG 的侧重点不同:

  • Agentic RAG 更强调 Agent 的规划、工具调用和执行控制。
  • Self-RAG 更强调生成过程中的检索决策与自我反思。

两者可以结合,但不能简单视为同一种方法。

六、证据评估:Agent 如何判断检索结果是否可靠?

Agentic RAG 能否真正优于传统 RAG,很大程度上取决于证据评估能力。

如果系统无法判断当前检索结果是否足够可靠,那么即使拥有多轮检索,也可能只是不断重复搜索。

6.1 证据评估的核心维度

评估维度 需要判断的问题
Relevance 证据是否与问题相关?
Coverage 是否覆盖问题中的关键条件?
Sufficiency 当前证据是否足以回答问题?
Consistency 不同证据之间是否存在冲突?
Freshness 信息是否过时?
Authority 来源是否可信?
Traceability 是否能够追溯原始来源?

6.2 相关性不等于充分性

这是 Agentic RAG 中非常重要的一个概念。

假设用户询问:

Kafka 如何保证消息可靠性?

检索结果包含:

  • Kafka 的分区机制。
  • Kafka 的消费者组机制。
  • Kafka 的消息确认机制。

这些内容都与 Kafka 有关。

但如果缺少生产者确认、消费者提交偏移量和副本机制等关键内容,仍然不能认为证据充分。

因此,不能简单使用相似度分数判断是否完成任务。

6.3 证据充分性评估

可以将问题拆解为若干必要的信息点,分别检查证据覆盖情况。

例如:

必要信息点 是否覆盖
Producer 确认机制 是
Broker 副本机制 是
Consumer Offset 提交 否
消费失败处理 否
重复消费问题 是

此时,即使已经检索到多个相关文档,也不能直接生成完整的技术结论。

可以进一步发起针对缺失信息点的检索。

6.4 证据评分模型

可以构建一个综合证据评分模型:

S = w_rR + w_cC + w_sS_f + w_tT + w_aA

其中:

  • R:相关性。
  • C:覆盖率。
  • S_f:证据充分性。
  • T:来源可信度。
  • A:时效性。
  • w_r,w_c,w_s,w_t,w_a:对应权重。

权重需要根据业务场景确定,并不适合直接使用一组通用固定值。

例如:

  • 技术原理问答更关注相关性和覆盖率。
  • 金融信息更关注来源可信度和时效性。
  • 企业制度问答更关注版本有效性和来源权威性。

这个评分模型可以作为工程设计参考,但不应直接把不同维度的评分当成客观概率。

6.5 证据评估的决策流程

flowchart TD
    A["获取检索结果"]
    B["相关性评估"]
    C{"是否相关"}
    D["过滤无关结果"]
    E["覆盖率评估"]
    F{"关键内容是否覆盖"}
    G["定位缺失信息"]
    H["补充检索"]
    I["来源可信度与时效性评估"]
    J{"证据是否可信且有效"}
    K["检查证据冲突"]
    L{"是否存在未解决冲突"}
    M["进入人工审核或保留不确定性"]
    N["形成可用证据集"]
    O["交给生成模型"]

    A --> B --> C
    C -->|"否"| D
    C -->|"是"| E
    D --> E
    E --> F
    F -->|"否"| G --> H --> A
    F -->|"是"| I --> J
    J -->|"否"| G
    J -->|"是"| K --> L
    L -->|"是"| M
    L -->|"否"| N --> O

    style A fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
    style B fill:#EAF3EC,stroke:#83A995,color:#315D49
    style C fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
    style D fill:#F7EAE7,stroke:#C98D7C,color:#754438
    style E fill:#EAF3EC,stroke:#83A995,color:#315D49
    style F fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
    style G fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style H fill:#EAE8FA,stroke:#A49BD5,color:#51477D
    style I fill:#EAF3EC,stroke:#83A995,color:#315D49
    style J fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
    style K fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style L fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
    style M fill:#F7EAE7,stroke:#C98D7C,color:#754438
    style N fill:#DCEFE5,stroke:#83A995,color:#315D49
    style O fill:#DCEFE5,stroke:#83A995,color:#315D49

实际工程中,证据评估可以由规则、交叉编码器、专用评估模型或 LLM 共同完成。

对于高风险任务,不能只依靠同一个生成模型对自己的输出进行自我评价。

七、Agentic RAG 的执行机制:Plan、Act、Observe、Reflect

Agentic RAG 的运行方式与 Agent 的执行循环密切相关。

一个常见的抽象模型是:

  • Plan:规划任务。
  • Act:执行行动。
  • Observe:观察结果。
  • Reflect:反思和调整。

7.1 Plan:任务规划

Agent 首先理解用户目标,将复杂问题拆分成可以执行的任务。

例如:

分析某企业是否适合使用 GraphRAG 构建知识管理系统。

可以拆解为:

  1. 了解企业现有知识库规模。
  2. 分析文档之间的关联程度。
  3. 判断是否存在多实体、多跳关系查询需求。
  4. 分析知识图谱构建成本。
  5. 对比传统 RAG 和 GraphRAG。
  6. 给出架构建议。

规划阶段需要明确:

  • 任务目标。
  • 子任务列表。
  • 任务依赖。
  • 所需工具。
  • 执行顺序。
  • 完成条件。

7.2 Act:执行行动

Agent 根据规划调用不同工具。

例如:

  • Vector Search。
  • BM25 Search。
  • Graph Query。
  • SQL Query。
  • Web Search。
  • Document Reader。
  • Reranker。

工具调用通常需要经过统一的工具注册和参数校验机制。

7.3 Observe:观察结果

Agent 接收工具返回的数据。

观察内容包括:

  • 查询是否成功。
  • 返回了多少结果。
  • 结果是否为空。
  • 结果是否相关。
  • 是否出现超时。
  • 是否存在数据冲突。
  • 是否需要继续检索。

工具执行成功不代表任务已经完成。

例如,图数据库返回了 20 条关系,并不意味着这些关系能够回答用户的问题。

7.4 Reflect:反思与调整

Agent 根据观察结果判断当前策略是否有效。

可能的调整包括:

  • 修改查询条件。
  • 改写关键词。
  • 增加检索范围。
  • 切换检索器。
  • 调整 Top-K。
  • 拆分子任务。
  • 结束当前任务。
  • 返回证据不足的说明。

7.5 Agent 执行循环

flowchart TD
    A["接收用户目标"]
    B["Plan:制定计划"]
    C["Act:调用工具"]
    D["Observe:观察结果"]
    E["Reflect:评估执行状态"]
    F{"任务是否完成"}
    G["更新计划"]
    H["整合结果"]
    I["生成最终答案"]

    A --> B --> C --> D --> E --> F
    F -->|"否"| G --> C
    F -->|"是"| H --> I

    style A fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
    style B fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style C fill:#EAF3EC,stroke:#83A995,color:#315D49
    style D fill:#EAE8FA,stroke:#A49BD5,color:#51477D
    style E fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style F fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
    style G fill:#F7EAE7,stroke:#C98D7C,color:#754438
    style H fill:#EAF3EC,stroke:#83A995,color:#315D49
    style I fill:#DCEFE5,stroke:#83A995,color:#315D49

这个循环可以持续多轮,但必须设置最大执行步数、最大耗时和最大成本。

否则,Agent 可能因为无法判断任务完成条件而不断调用工具。

八、Agentic RAG 的系统架构设计

一个生产级 Agentic RAG 系统,需要将智能决策与确定性执行分开。

不能让大语言模型直接控制所有底层资源。

8.1 分层架构

架构层 核心组件 职责
接入层 API Gateway、会话管理 接收请求和管理用户上下文
Agent 层 Planner、Controller 任务规划和流程控制
决策层 Router、Evaluator 选择检索策略和评估证据
工具层 Retriever、SQL、Graph、Web 执行外部操作
知识层 Vector DB、Graph DB、Document Store 存储知识和索引
生成层 LLM、Context Builder 构建上下文和生成答案
治理层 Guardrails、Observability 权限、安全、监控和审计