返回专栏
· 26 分钟阅读

Human-in-the-loop:人机协作机制


一、什么是 Human-in-the-loop

Human-in-the-loop,简称 HITL,中文通常称为人机协作或人在回路中,是一种将人工判断融入自动化系统执行过程的设计模式。

传统自动化系统通常按照预定义规则执行任务,人工主要负责启动任务、查看结果和处理异常。

Agent 则具有自主推理、工具调用和动态决策能力。它不仅能够理解用户意图,还可能调用外部 API、修改业务数据、发送消息、执行代码甚至触发真实业务操作。

这带来了一个重要问题:

Agent 是否应该拥有完全自主的执行权限?

答案通常是否定的。

模型可能出现理解偏差、推理错误、工具参数错误和结果判断失误。对于高风险操作,仅依靠模型自行判断并不可靠。

HITL 的核心思想是:让 Agent 负责自动化执行,让人工在必要的环节提供判断、授权、纠正和监督。

1.1 HITL 的基本组成

一个典型的人机协作系统包含以下角色:

组成部分 职责
Human 提供判断、审批、反馈和纠正
Agent 理解任务、推理决策、调用工具
Tool 执行具体操作
Control Layer 判断是否需要人工介入
State Manager 保存任务和人工交互状态
Checkpointer 保存检查点,支持暂停和恢复
Approval Service 管理审批请求和审批结果

其中,Control Layer 是重要的控制环节。

它负责判断当前操作是否需要人工参与,而不是将所有操作都交给人工审批。

1.2 人机协作的基本流程

flowchart TD
    A["用户提交任务"] --> B["Agent 理解任务"]
    B --> C["模型推理与决策"]
    C --> D{"是否需要人工介入"}
    D -->|"不需要"| E["自动执行操作"]
    D -->|"需要"| F["创建人工审批请求"]
    F --> G["暂停 Agent 执行"]
    G --> H["人工审核"]
    H --> I{"审批结果"}
    I -->|"通过"| J["恢复 Agent 执行"]
    I -->|"拒绝"| K["终止或调整任务"]
    I -->|"修改"| L["接收人工反馈"]
    L --> M["更新 Agent 状态"]
    M --> J
    E --> N["验证执行结果"]
    J --> N
    N --> O["任务完成"]

    style A fill:#DCEFE5,stroke:#4F8B70,color:#24563F
    style B fill:#EAF3EC,stroke:#83A995,color:#315D49
    style C fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style D fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
    style E fill:#EAF3EC,stroke:#83A995,color:#315D49
    style F fill:#EAE8FA,stroke:#A49BD5,color:#51477D
    style G fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
    style H fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style I fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
    style J fill:#EAF3EC,stroke:#83A995,color:#315D49
    style K fill:#F7EAE7,stroke:#C98D7C,color:#754438
    style L fill:#EAE8FA,stroke:#A49BD5,color:#51477D
    style M fill:#EAF3EC,stroke:#83A995,color:#315D49
    style N fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
    style O fill:#E5F0E9,stroke:#83A995,color:#315D49

这个流程体现了 HITL 的基本模式:

  • 普通操作由 Agent 自动完成。
  • 高风险操作进入人工审批。
  • 人工审批期间暂停任务。
  • 人工反馈被写入状态。
  • 审批通过后恢复执行。
  • 最终结果仍然需要验证。

二、为什么 Agent 需要人机协作

Agent 的自主能力越强,越需要明确其行为边界。

在实际业务中,模型并不能保证每次推理都正确,也无法天然理解企业内部的所有权限规则和业务约束。

HITL 主要解决以下问题。

2.1 降低模型决策风险

大模型可能产生以下问题:

  • 错误理解用户意图。
  • 生成错误的工具参数。
  • 对不完整信息作出过度推断。
  • 忽略业务约束。
  • 选择不合适的工具。
  • 错误判断任务已经完成。

例如,用户要求 Agent 清理服务器上的临时文件。

如果 Agent 将业务文件误判为临时文件,可能造成重要数据丢失。

通过人工确认关键删除操作,可以降低误操作风险。

2.2 控制高风险工具调用

并不是所有工具调用都具有相同风险。

例如:

工具操作 风险等级参考 是否建议人工审批
查询公开网页 低 通常不需要
查询内部数据 中 根据数据敏感程度决定
生成分析报告 低 通常不需要
修改普通业务记录 中 根据业务规则决定
删除重要数据 高 建议审批
发起支付 高 建议审批
发布公开内容 高 根据影响范围决定
修改系统权限 高 建议审批

风险等级只是参考,最终应该由业务规则、用户权限和操作影响范围共同决定。

2.3 弥补模型无法掌握的业务信息

某些决策需要实时业务背景,而这些信息不一定存在于模型上下文中。

例如:

  • 当前客户是否属于重点客户。
  • 某项合同是否已经得到线下确认。
  • 当前操作是否符合部门审批制度。
  • 某项业务是否存在特殊例外。
  • 某个用户是否拥有最终授权。

人工可以补充这些模型无法可靠获取的信息。

2.4 提升结果质量

HITL 不只是为了防止错误,也可以主动改善 Agent 的输出质量。

例如,在内容生成任务中:

  1. Agent 生成文章初稿。
  2. 人工检查事实和表达。
  3. 人工指出需要修改的部分。
  4. Agent 根据反馈重新生成。
  5. 人工确认最终版本。

人工反馈可以成为 Agent 下一轮执行的输入。

2.5 满足合规与审计要求

在金融、医疗、政务和企业管理等场景中,某些操作必须由具备相应权限的人员确认。

例如:

  • 资金转账。
  • 重要合同审批。
  • 敏感数据导出。
  • 权限变更。
  • 重大业务决策。

HITL 可以保留审批人、审批时间、审批意见和执行记录,为后续审计提供依据。


三、Human-in-the-loop 的三种协作模式

根据人工参与的时机和职责,可以将 HITL 分为三种常见模式。

3.1 Human-in-the-loop:执行过程中人工参与

这种模式下,Agent 在任务执行过程中主动暂停,等待人工反馈或审批。

例如:

  • Agent 生成邮件后等待人工确认。
  • Agent 准备执行支付前等待授权。
  • Agent 发现任务信息不足时请求用户补充。
  • Agent 生成方案后等待人工修改意见。

典型特点:

  • 人工参与执行过程。
  • 人工反馈能够影响后续决策。
  • Agent 可以在反馈后继续运行。

3.2 Human-on-the-loop:执行过程人工监督

Human-on-the-loop 强调人工不必参与每一个决策,而是持续监督 Agent 的运行过程。

Agent 可以自主执行大部分任务,人工通过监控界面查看状态,在发现异常或风险时介入。

例如:

  • 人工监控多个 Agent 的执行状态。
  • 系统自动处理普通工单。
  • 复杂工单自动进入人工队列。
  • 人工可以随时暂停或终止任务。

这种模式适合规模较大的自动化系统。

3.3 Human-out-of-the-loop:人工不参与日常执行

Human-out-of-the-loop 指人工不直接参与具体执行过程,系统按照授权策略自主运行。

例如:

  • 自动分类邮件。
  • 自动整理文档。
  • 自动生成内部摘要。
  • 自动执行低风险数据处理。

这种模式并不意味着系统完全不需要人工管理。

人工仍然需要负责:

  • 设定执行边界。
  • 配置权限。
  • 制定风险规则。
  • 监控系统质量。
  • 处理异常事件。

3.4 三种模式对比

维度 Human-in-the-loop Human-on-the-loop Human-out-of-the-loop
人工参与时机 执行过程中 执行期间监督 日常执行之外
人工介入频率 较高 中低 较低
Agent 自主程度 中等 较高 高
主要目标 审批与纠正 监督与干预 自动化执行
适用场景 高风险操作 多任务运营 低风险重复任务

实际系统通常不是三选一,而是根据任务风险动态切换。


四、人工介入的触发机制

HITL 系统需要解决一个核心问题:

什么时候应该让人工参与?

如果每一步都要求人工确认,Agent 就失去了自动化价值。

如果完全不需要人工确认,又可能带来不可控风险。

因此,需要建立明确的人工介入触发机制。

4.1 基于风险等级触发

可以根据工具操作的风险等级决定是否需要审批。

风险等级 示例 处理策略
Low 查询公开信息 自动执行
Medium 修改普通业务数据 规则校验或抽样审核
High 删除数据、发布内容 人工审批
Critical 支付、权限变更 强制授权与多重校验

风险评估可以考虑:

  • 操作是否可逆。
  • 是否涉及资金。
  • 是否涉及敏感数据。
  • 影响用户数量。
  • 操作权限范围。
  • 潜在损失。
  • 是否存在法律和合规要求。

4.2 基于置信度触发

当模型对任务理解或结果判断不够确定时,可以请求人工参与。

例如:

def should_request_human(confidence):
    if confidence < 0.60:
        return True

    return False

但需要注意:

模型自报的置信度不一定经过校准,不能单独作为安全决策依据。

更可靠的方式是结合:

  • 模型结构化评估结果。
  • 规则校验结果。
  • 数据完整性。
  • 工具执行反馈。
  • 任务风险等级。
  • 历史错误率。

对于支付、删除和权限变更等高风险操作,即使模型置信度很高,也不应该绕过强制审批规则。

4.3 基于任务复杂度触发

某些任务本身就具有较高复杂度。

例如:

  • 制定复杂业务方案。
  • 生成法律相关文档。
  • 修改大型代码库。
  • 分析多个相互冲突的数据源。
  • 处理存在歧义的用户请求。

系统可以根据任务类型和执行情况设置人工审核节点。

4.4 基于异常触发

Agent 运行过程中可能遇到:

  • 连续多次工具调用失败。
  • 相同错误重复出现。
  • 多个数据源结果冲突。
  • 超出预期的执行成本。
  • 长时间没有取得进展。
  • 模型无法确定下一步行动。

这些情况可以触发人工介入。

4.5 人工介入决策流程

flowchart TD
    A["Agent 准备执行操作"] --> B["收集操作上下文"]
    B --> C["计算操作风险"]
    C --> D["检查业务规则"]
    D --> E["评估数据完整性与异常"]
    E --> F{"是否满足自动执行条件"}
    F -->|"是"| G["自动执行"]
    F -->|"否"| H["判断人工介入类型"]
    H --> I{"介入方式"}
    I -->|"审批"| J["创建审批请求"]
    I -->|"补充信息"| K["请求用户提供信息"]
    I -->|"异常处理"| L["进入人工处理队列"]
    I -->|"强制禁止"| M["拒绝执行"]
    J --> N["等待人工响应"]
    K --> N
    L --> N
    N --> O{"人工处理结果"}
    O -->|"允许"| P["更新任务状态"]
    O -->|"拒绝"| M
    P --> Q["继续 Agent 执行"]
    G --> R["记录执行结果"]
    Q --> R

    style A fill:#DCEFE5,stroke:#4F8B70,color:#24563F
    style B fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
    style C fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style D fill:#EAF3EC,stroke:#83A995,color:#315D49
    style E fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
    style F fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
    style G fill:#E5F0E9,stroke:#83A995,color:#315D49
    style H fill:#EAE8FA,stroke:#A49BD5,color:#51477D
    style I fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
    style J fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style K fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style L fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
    style M fill:#F7EAE7,stroke:#C98D7C,color:#754438
    style N fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
    style O fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
    style P fill:#EAF3EC,stroke:#83A995,color:#315D49
    style Q fill:#E5F0E9,stroke:#83A995,color:#315D49
    style R fill:#DCEFE5,stroke:#4F8B70,color:#24563F

五、人工审批机制设计

人工审批是 HITL 最常见的实现形式。

Agent 在执行某项操作之前,将操作内容、执行原因和风险信息提交给审批系统,等待有权限的人员作出决定。

5.1 审批请求的数据结构

一个完整的审批请求通常需要包含:

字段 说明
approval_id 审批请求 ID
task_id 所属任务
tool_call_id 对应工具调用
requester 请求发起者
approver 指定审批人或审批角色
action 待审批操作
arguments 操作参数
risk_level 风险等级
reason Agent 提交的操作理由
status 审批状态
created_at 创建时间
expires_at 审批过期时间

示例:

{
  "approval_id": "approval_1001",
  "task_id": "task_1001",
  "tool_call_id": "call_003",
  "action": "delete_file",
  "arguments": {
    "file_path": "/data/archive/old_report.csv"
  },
  "risk_level": "high",
  "reason": "该文件被判断为过期临时文件",
  "status": "pending",
  "created_at": "2026-11-20T10:00:00Z",
  "expires_at": "2026-11-20T11:00:00Z"
}

注意:Agent 提供的 reason 是辅助审批的信息,不应该被当成事实证明。审批界面应尽可能展示真实文件信息、影响范围和可验证的数据。

5.2 审批状态机

审批不能只有通过和拒绝两个状态。

实际业务中,还需要考虑审批撤回、超时、重新提交和权限异常。

状态 含义
Pending 等待审批
Approved 审批通过
Rejected 审批拒绝
Expired 审批过期
Cancelled 审批取消
Revision Required 需要修改后重新提交

审批状态变化应该受到严格控制。

例如,已经过期的审批不能直接变成 Approved,已经拒绝的审批也不应该被重复提交执行。

5.3 审批流程

flowchart TD
    A["Agent 创建审批请求"] --> B["保存审批记录"]
    B --> C["通知审批人"]
    C --> D["审批人查看操作详情"]
    D --> E{"审批决定"}
    E -->|"通过"| F["验证审批权限"]
    E -->|"拒绝"| G["记录拒绝原因"]
    E -->|"要求修改"| H["返回修改意见"]
    E -->|"超时"| I["标记审批过期"]
    F --> J{"权限与状态是否有效"}
    J -->|"有效"| K["标记 Approved"]
    J -->|"无效"| L["拒绝审批操作"]
    K --> M["允许执行对应操作"]
    G --> N["通知 Agent"]
    H --> O["更新操作参数"]
    O --> P["重新发起审批"]
    I --> N
    L --> N

    style A fill:#DCEFE5,stroke:#4F8B70,color:#24563F
    style B fill:#EAF3EC,stroke:#83A995,color:#315D49
    style C fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
    style D fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style E fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
    style F fill:#EAE8FA,stroke:#A49BD5,color:#51477D
    style G fill:#F7EAE7,stroke:#C98D7C,color:#754438
    style H fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style I fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
    style J fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
    style K fill:#E5F0E9,stroke:#83A995,color:#315D49
    style L fill:#F7EAE7,stroke:#C98D7C,color:#754438
    style M fill:#DCEFE5,stroke:#4F8B70,color:#24563F
    style N fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
    style O fill:#EAF3EC,stroke:#83A995,color:#315D49
    style P fill:#E0F0FE,stroke:#93BCE8,color:#1E4976

5.4 审批通过不等于永久授权

这是一个非常重要的安全原则。

假设 Agent 提交了一次删除文件的审批请求,审批人同意删除文件 A。

这并不意味着 Agent 后续可以:

  • 删除文件 B。
  • 删除整个目录。
  • 修改删除参数。
  • 使用同一审批结果执行其他操作。
  • 在审批过期后继续执行。

审批必须绑定明确的操作范围。

建议至少绑定:

  • 任务 ID。
  • 工具调用 ID。
  • 工具名称。
  • 规范化后的操作参数。
  • 参数摘要或哈希。
  • 审批有效期。
  • 审批人身份。
  • 授权范围。

如果审批后操作参数发生变化,就应该重新审批。


六、人工反馈与 Agent 自我修正

HITL 不只是让人工决定能不能执行,还可以让人工参与 Agent 的推理和结果修正。

人工反馈可以分为几种类型。

6.1 补充信息

当用户请求不够明确时,Agent 可以请求用户补充信息。

例如:

用户:

帮我分析一下最近的销售情况。

Agent 可能需要进一步了解:

  • 分析哪个时间范围?
  • 关注哪些产品?
  • 是否需要按地区对比?
  • 是否需要生成图表?

用户补充后,Agent 将新信息加入当前任务状态,再继续执行。

6.2 修正参数

假设 Agent 准备查询:

{
  "start_date": "2026-10-01",
  "end_date": "2026-10-31",
  "region": "all"
}

人工发现应该只分析华东地区,于是修改为:

{
  "start_date": "2026-10-01",
  "end_date": "2026-10-31",
  "region": "east"
}

Agent 应该将修改后的参数作为新的执行输入,而不是继续使用原始参数。

6.3 修改生成结果

例如,Agent 生成了一份业务分析报告,人工提出:

  • 删除未经证实的结论。
  • 补充数据来源。
  • 调整图表展示方式。
  • 将重点放在利润率变化。
  • 对异常数据增加解释。

Agent 根据反馈重新生成内容。

6.4 纠正决策方向

有些时候,Agent 的推理方向本身就存在偏差。

例如:

Agent 认为销售下降是因为价格过高。

人工补充信息:

本月主要问题是库存不足,而不是价格。

Agent 应该更新当前任务上下文,重新分析库存、订单和销售数据,而不是只修改报告中的一句话。

6.5 人工反馈的闭环

flowchart TD
    A["Agent 生成初始决策"] --> B["展示决策与依据"]
    B --> C["人工审查"]
    C --> D{"反馈类型"}
    D -->|"补充信息"| E["补充任务上下文"]
    D -->|"修改参数"| F["修正执行参数"]
    D -->|"修改结果"| G["调整生成内容"]
    D -->|"纠正方向"| H["调整任务目标或策略"]
    E --> I["更新 Agent State"]
    F --> I
    G --> I
    H --> I
    I --> J["Agent 重新推理"]
    J --> K["生成新的决策"]
    K --> L{"是否满足要求"}
    L -->|"否"| B
    L -->|"是"| M["继续执行任务"]

    style A fill:#DCEFE5,stroke:#4F8B70,color:#24563F
    style B fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style C fill:#EAF3EC,stroke:#83A995,color:#315D49
    style D fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
    style E fill:#EAE8FA,stroke:#A49BD5,color:#51477D
    style F fill:#EAE8FA,stroke:#A49BD5,color:#51477D
    style G fill:#EAE8FA,stroke:#A49BD5,color:#51477D
    style H fill:#EAE8FA,stroke:#A49BD5,color:#51477D
    style I fill:#EAF3EC,stroke:#83A995,color:#315D49
    style J fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style K fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
    style L fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
    style M fill:#E5F0E9,stroke:#83A995,color:#315D49

人工反馈应当被明确记录,包括反馈人、反馈时间、反馈内容和对应任务版本。

如果反馈会改变重要业务决策,还应该保留原始决策与修正后的决策,方便追踪。


七、HITL 与 Agent 状态持久化

人机协作通常不是一次即时交互。

审批人可能几分钟后才响应,也可能几个小时甚至几天后才处理。

因此,Agent 必须能够在等待人工反馈时释放执行资源,并在收到响应后恢复原来的任务。

这就需要结合 State、Checkpoint 和持久化机制。

7.1 为什么需要持久化

假设 Agent 正在执行一个采购任务:

  1. 查询供应商报价。
  2. 对比供应商资质。
  3. 生成采购建议。
  4. 提交采购审批。
  5. 等待管理员确认。

如果 Agent 一直占用 Worker 等待审批,会浪费执行资源。

如果进程被关闭,又没有保存状态,后续就无法恢复原来的任务。

因此,合理的设计是:

  • 保存当前 Agent State。
  • 保存当前检查点。
  • 创建独立审批记录。
  • 将任务状态设置为 Waiting。
  • 释放当前 Worker。
  • 等待审批事件。
  • 审批完成后重新调度任务。
  • 从检查点恢复执行。

7.2 HITL 状态设计

from typing import TypedDict, Literal, Any

class ApprovalInfo(TypedDict):
    approval_id: str
    status: Literal[
        "pending",
        "approved",
        "rejected",
        "expired",
        "cancelled"
    ]
    approver_id: str | None
    comment: str | None

class AgentState(TypedDict):
    task_id: str
    goal: str
    messages: list[Any]

    status: Literal[
        "running",
        "waiting",
        "completed",
        "failed",
        "cancelled"
    ]

    current_step: str
    iteration: int

    pending_action: dict[str, Any] | None
    approval: ApprovalInfo | None

    checkpoint_id: str | None

这里的 pending_action 用于保存等待审批的操作内容。

approval 用于记录审批状态。

checkpoint_id 用于关联当前任务对应的持久化检查点。

7.3 人工等待状态机

状态 含义 主要操作
Running Agent 正在执行 正常运行
Approval Pending 等待审批 暂停并保存状态
Approved 审批通过 允许继续执行
Rejected 审批拒绝 终止或调整任务
Waiting Input 等待用户输入 保存上下文
Resuming 正在恢复 加载检查点
Completed 任务完成 保存最终结果

7.4 暂停与恢复流程

flowchart TD
    A["Agent 执行任务"] --> B["识别需要人工介入"]
    B --> C["生成待审批操作"]
    C --> D["保存 Agent State"]
    D --> E["创建 Checkpoint"]
    E --> F["创建审批记录"]
    F --> G["任务状态设置为 Waiting"]
    G --> H["释放 Worker"]
    H --> I["等待审批事件"]
    I --> J["接收审批结果"]
    J --> K["验证审批人权限"]
    K --> L{"审批结果"}
    L -->|"通过"| M["更新审批状态"]
    L -->|"拒绝"| N["更新拒绝状态"]
    M --> O["创建恢复任务"]
    O --> P["加载 Checkpoint"]
    P --> Q["验证待执行操作"]
    Q --> R["继续 Agent Loop"]
    N --> S["终止或调整任务"]

    style A fill:#DCEFE5,stroke:#4F8B70,color:#24563F
    style B fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style C fill:#EAE8FA,stroke:#A49BD5,color:#51477D
    style D fill:#EAF3EC,stroke:#83A995,color:#315D49
    style E fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style F fill:#EAF3EC,stroke:#83A995,color:#315D49
    style G fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
    style H fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
    style I fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
    style J fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style K fill:#EAF3EC,stroke:#83A995,color:#315D49
    style L fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
    style M fill:#E5F0E9,stroke:#83A995,color:#315D49
    style N fill:#F7EAE7,stroke:#C98D7C,color:#754438
    style O fill:#EAE8FA,stroke:#A49BD5,color:#51477D
    style P fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style Q fill:#EAF3EC,stroke:#83A995,color:#315D49
    style R fill:#DCEFE5,stroke:#4F8B70,color:#24563F
    style S fill:#F7EAE7,stroke:#C98D7C,color:#754438

7.5 审批与执行之间的一致性

这里有一个非常容易忽略的问题:

审批通过之后,Agent 可能因为网络问题或进程崩溃,没有收到恢复事件。

如果系统只是依赖一次消息通知,就可能出现任务永久等待。

更可靠的方式是:

  • 审批记录持久化。
  • 审批结果通过事务更新。
  • 审批完成事件写入可靠消息队列,或采用事务 Outbox。
  • 后台调度器扫描待恢复任务。
  • 恢复操作具有幂等性。
  • 同一个任务只能由一个有效 Worker 接管。

此外,审批通过之后,Agent 不能直接相信历史状态中的操作参数。

执行前仍然需要重新校验参数、权限和审批有效期,确保实际执行的操作与审批内容一致。


八、使用 LangGraph 实现 Human-in-the-loop

LangGraph 提供了适合构建 HITL 工作流的机制,其中最重要的是:

  • interrupt():暂停当前执行,等待外部输入。
  • Command(resume=...):向暂停的流程提供恢复数据。
  • Checkpointer:保存图执行状态。
  • thread_id:关联同一执行线程的检查点。

这几个机制组合起来,可以实现 Agent 暂停、人工审批和恢复执行。

8.1 定义 Agent State

from typing import TypedDict, Literal, Any

class AgentState(TypedDict):
    task: str
    action: dict[str, Any]

    status: Literal[
        "running",
        "waiting",
        "approved",
        "rejected",
        "completed"
    ]

    approval_result: dict[str, Any] | None
    result: str

8.2 定义需要人工审批的节点

from langgraph.types import interrupt

def approval_node(state: AgentState):
    action = state["action"]

    decision = interrupt({
        "type": "approval",
        "task": state["task"],
        "action": action,
        "message": "是否允许执行该操作?"
    })

    return {
        "approval_result": decision,
        "status": (
            "approved"
            if decision.get("approved")
            else "rejected"
        )
    }

interrupt() 会暂停当前图执行,并将传递给它的数据作为待处理的人机交互信息。

调用者可以从中获取审批请求内容,并交给前端审批界面或业务审批服务。

需要注意:包含 interrupt() 的节点在恢复时可能会从节点开头重新执行。因此,放在 interrupt() 之前的代码应避免产生不可重复的外部副作用。