一、什么是 Human-in-the-loop
Human-in-the-loop,简称 HITL,中文通常称为人机协作或人在回路中,是一种将人工判断融入自动化系统执行过程的设计模式。
传统自动化系统通常按照预定义规则执行任务,人工主要负责启动任务、查看结果和处理异常。
Agent 则具有自主推理、工具调用和动态决策能力。它不仅能够理解用户意图,还可能调用外部 API、修改业务数据、发送消息、执行代码甚至触发真实业务操作。
这带来了一个重要问题:
Agent 是否应该拥有完全自主的执行权限?
答案通常是否定的。
模型可能出现理解偏差、推理错误、工具参数错误和结果判断失误。对于高风险操作,仅依靠模型自行判断并不可靠。
HITL 的核心思想是:让 Agent 负责自动化执行,让人工在必要的环节提供判断、授权、纠正和监督。
1.1 HITL 的基本组成
一个典型的人机协作系统包含以下角色:
| 组成部分 | 职责 |
|---|---|
| Human | 提供判断、审批、反馈和纠正 |
| Agent | 理解任务、推理决策、调用工具 |
| Tool | 执行具体操作 |
| Control Layer | 判断是否需要人工介入 |
| State Manager | 保存任务和人工交互状态 |
| Checkpointer | 保存检查点,支持暂停和恢复 |
| Approval Service | 管理审批请求和审批结果 |
其中,Control Layer 是重要的控制环节。
它负责判断当前操作是否需要人工参与,而不是将所有操作都交给人工审批。
1.2 人机协作的基本流程
flowchart TD
A["用户提交任务"] --> B["Agent 理解任务"]
B --> C["模型推理与决策"]
C --> D{"是否需要人工介入"}
D -->|"不需要"| E["自动执行操作"]
D -->|"需要"| F["创建人工审批请求"]
F --> G["暂停 Agent 执行"]
G --> H["人工审核"]
H --> I{"审批结果"}
I -->|"通过"| J["恢复 Agent 执行"]
I -->|"拒绝"| K["终止或调整任务"]
I -->|"修改"| L["接收人工反馈"]
L --> M["更新 Agent 状态"]
M --> J
E --> N["验证执行结果"]
J --> N
N --> O["任务完成"]
style A fill:#DCEFE5,stroke:#4F8B70,color:#24563F
style B fill:#EAF3EC,stroke:#83A995,color:#315D49
style C fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style D fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style E fill:#EAF3EC,stroke:#83A995,color:#315D49
style F fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style G fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style H fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style I fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style J fill:#EAF3EC,stroke:#83A995,color:#315D49
style K fill:#F7EAE7,stroke:#C98D7C,color:#754438
style L fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style M fill:#EAF3EC,stroke:#83A995,color:#315D49
style N fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style O fill:#E5F0E9,stroke:#83A995,color:#315D49
这个流程体现了 HITL 的基本模式:
- 普通操作由 Agent 自动完成。
- 高风险操作进入人工审批。
- 人工审批期间暂停任务。
- 人工反馈被写入状态。
- 审批通过后恢复执行。
- 最终结果仍然需要验证。
二、为什么 Agent 需要人机协作
Agent 的自主能力越强,越需要明确其行为边界。
在实际业务中,模型并不能保证每次推理都正确,也无法天然理解企业内部的所有权限规则和业务约束。
HITL 主要解决以下问题。
2.1 降低模型决策风险
大模型可能产生以下问题:
- 错误理解用户意图。
- 生成错误的工具参数。
- 对不完整信息作出过度推断。
- 忽略业务约束。
- 选择不合适的工具。
- 错误判断任务已经完成。
例如,用户要求 Agent 清理服务器上的临时文件。
如果 Agent 将业务文件误判为临时文件,可能造成重要数据丢失。
通过人工确认关键删除操作,可以降低误操作风险。
2.2 控制高风险工具调用
并不是所有工具调用都具有相同风险。
例如:
| 工具操作 | 风险等级参考 | 是否建议人工审批 |
|---|---|---|
| 查询公开网页 | 低 | 通常不需要 |
| 查询内部数据 | 中 | 根据数据敏感程度决定 |
| 生成分析报告 | 低 | 通常不需要 |
| 修改普通业务记录 | 中 | 根据业务规则决定 |
| 删除重要数据 | 高 | 建议审批 |
| 发起支付 | 高 | 建议审批 |
| 发布公开内容 | 高 | 根据影响范围决定 |
| 修改系统权限 | 高 | 建议审批 |
风险等级只是参考,最终应该由业务规则、用户权限和操作影响范围共同决定。
2.3 弥补模型无法掌握的业务信息
某些决策需要实时业务背景,而这些信息不一定存在于模型上下文中。
例如:
- 当前客户是否属于重点客户。
- 某项合同是否已经得到线下确认。
- 当前操作是否符合部门审批制度。
- 某项业务是否存在特殊例外。
- 某个用户是否拥有最终授权。
人工可以补充这些模型无法可靠获取的信息。
2.4 提升结果质量
HITL 不只是为了防止错误,也可以主动改善 Agent 的输出质量。
例如,在内容生成任务中:
- Agent 生成文章初稿。
- 人工检查事实和表达。
- 人工指出需要修改的部分。
- Agent 根据反馈重新生成。
- 人工确认最终版本。
人工反馈可以成为 Agent 下一轮执行的输入。
2.5 满足合规与审计要求
在金融、医疗、政务和企业管理等场景中,某些操作必须由具备相应权限的人员确认。
例如:
- 资金转账。
- 重要合同审批。
- 敏感数据导出。
- 权限变更。
- 重大业务决策。
HITL 可以保留审批人、审批时间、审批意见和执行记录,为后续审计提供依据。
三、Human-in-the-loop 的三种协作模式
根据人工参与的时机和职责,可以将 HITL 分为三种常见模式。
3.1 Human-in-the-loop:执行过程中人工参与
这种模式下,Agent 在任务执行过程中主动暂停,等待人工反馈或审批。
例如:
- Agent 生成邮件后等待人工确认。
- Agent 准备执行支付前等待授权。
- Agent 发现任务信息不足时请求用户补充。
- Agent 生成方案后等待人工修改意见。
典型特点:
- 人工参与执行过程。
- 人工反馈能够影响后续决策。
- Agent 可以在反馈后继续运行。
3.2 Human-on-the-loop:执行过程人工监督
Human-on-the-loop 强调人工不必参与每一个决策,而是持续监督 Agent 的运行过程。
Agent 可以自主执行大部分任务,人工通过监控界面查看状态,在发现异常或风险时介入。
例如:
- 人工监控多个 Agent 的执行状态。
- 系统自动处理普通工单。
- 复杂工单自动进入人工队列。
- 人工可以随时暂停或终止任务。
这种模式适合规模较大的自动化系统。
3.3 Human-out-of-the-loop:人工不参与日常执行
Human-out-of-the-loop 指人工不直接参与具体执行过程,系统按照授权策略自主运行。
例如:
- 自动分类邮件。
- 自动整理文档。
- 自动生成内部摘要。
- 自动执行低风险数据处理。
这种模式并不意味着系统完全不需要人工管理。
人工仍然需要负责:
- 设定执行边界。
- 配置权限。
- 制定风险规则。
- 监控系统质量。
- 处理异常事件。
3.4 三种模式对比
| 维度 | Human-in-the-loop | Human-on-the-loop | Human-out-of-the-loop |
|---|---|---|---|
| 人工参与时机 | 执行过程中 | 执行期间监督 | 日常执行之外 |
| 人工介入频率 | 较高 | 中低 | 较低 |
| Agent 自主程度 | 中等 | 较高 | 高 |
| 主要目标 | 审批与纠正 | 监督与干预 | 自动化执行 |
| 适用场景 | 高风险操作 | 多任务运营 | 低风险重复任务 |
实际系统通常不是三选一,而是根据任务风险动态切换。
四、人工介入的触发机制
HITL 系统需要解决一个核心问题:
什么时候应该让人工参与?
如果每一步都要求人工确认,Agent 就失去了自动化价值。
如果完全不需要人工确认,又可能带来不可控风险。
因此,需要建立明确的人工介入触发机制。
4.1 基于风险等级触发
可以根据工具操作的风险等级决定是否需要审批。
| 风险等级 | 示例 | 处理策略 |
|---|---|---|
| Low | 查询公开信息 | 自动执行 |
| Medium | 修改普通业务数据 | 规则校验或抽样审核 |
| High | 删除数据、发布内容 | 人工审批 |
| Critical | 支付、权限变更 | 强制授权与多重校验 |
风险评估可以考虑:
- 操作是否可逆。
- 是否涉及资金。
- 是否涉及敏感数据。
- 影响用户数量。
- 操作权限范围。
- 潜在损失。
- 是否存在法律和合规要求。
4.2 基于置信度触发
当模型对任务理解或结果判断不够确定时,可以请求人工参与。
例如:
def should_request_human(confidence):
if confidence < 0.60:
return True
return False
但需要注意:
模型自报的置信度不一定经过校准,不能单独作为安全决策依据。
更可靠的方式是结合:
- 模型结构化评估结果。
- 规则校验结果。
- 数据完整性。
- 工具执行反馈。
- 任务风险等级。
- 历史错误率。
对于支付、删除和权限变更等高风险操作,即使模型置信度很高,也不应该绕过强制审批规则。
4.3 基于任务复杂度触发
某些任务本身就具有较高复杂度。
例如:
- 制定复杂业务方案。
- 生成法律相关文档。
- 修改大型代码库。
- 分析多个相互冲突的数据源。
- 处理存在歧义的用户请求。
系统可以根据任务类型和执行情况设置人工审核节点。
4.4 基于异常触发
Agent 运行过程中可能遇到:
- 连续多次工具调用失败。
- 相同错误重复出现。
- 多个数据源结果冲突。
- 超出预期的执行成本。
- 长时间没有取得进展。
- 模型无法确定下一步行动。
这些情况可以触发人工介入。
4.5 人工介入决策流程
flowchart TD
A["Agent 准备执行操作"] --> B["收集操作上下文"]
B --> C["计算操作风险"]
C --> D["检查业务规则"]
D --> E["评估数据完整性与异常"]
E --> F{"是否满足自动执行条件"}
F -->|"是"| G["自动执行"]
F -->|"否"| H["判断人工介入类型"]
H --> I{"介入方式"}
I -->|"审批"| J["创建审批请求"]
I -->|"补充信息"| K["请求用户提供信息"]
I -->|"异常处理"| L["进入人工处理队列"]
I -->|"强制禁止"| M["拒绝执行"]
J --> N["等待人工响应"]
K --> N
L --> N
N --> O{"人工处理结果"}
O -->|"允许"| P["更新任务状态"]
O -->|"拒绝"| M
P --> Q["继续 Agent 执行"]
G --> R["记录执行结果"]
Q --> R
style A fill:#DCEFE5,stroke:#4F8B70,color:#24563F
style B fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style C fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style D fill:#EAF3EC,stroke:#83A995,color:#315D49
style E fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style F fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style G fill:#E5F0E9,stroke:#83A995,color:#315D49
style H fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style I fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style J fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style K fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style L fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style M fill:#F7EAE7,stroke:#C98D7C,color:#754438
style N fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style O fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style P fill:#EAF3EC,stroke:#83A995,color:#315D49
style Q fill:#E5F0E9,stroke:#83A995,color:#315D49
style R fill:#DCEFE5,stroke:#4F8B70,color:#24563F
五、人工审批机制设计
人工审批是 HITL 最常见的实现形式。
Agent 在执行某项操作之前,将操作内容、执行原因和风险信息提交给审批系统,等待有权限的人员作出决定。
5.1 审批请求的数据结构
一个完整的审批请求通常需要包含:
| 字段 | 说明 |
|---|---|
| approval_id | 审批请求 ID |
| task_id | 所属任务 |
| tool_call_id | 对应工具调用 |
| requester | 请求发起者 |
| approver | 指定审批人或审批角色 |
| action | 待审批操作 |
| arguments | 操作参数 |
| risk_level | 风险等级 |
| reason | Agent 提交的操作理由 |
| status | 审批状态 |
| created_at | 创建时间 |
| expires_at | 审批过期时间 |
示例:
{
"approval_id": "approval_1001",
"task_id": "task_1001",
"tool_call_id": "call_003",
"action": "delete_file",
"arguments": {
"file_path": "/data/archive/old_report.csv"
},
"risk_level": "high",
"reason": "该文件被判断为过期临时文件",
"status": "pending",
"created_at": "2026-11-20T10:00:00Z",
"expires_at": "2026-11-20T11:00:00Z"
}
注意:Agent 提供的 reason 是辅助审批的信息,不应该被当成事实证明。审批界面应尽可能展示真实文件信息、影响范围和可验证的数据。
5.2 审批状态机
审批不能只有通过和拒绝两个状态。
实际业务中,还需要考虑审批撤回、超时、重新提交和权限异常。
| 状态 | 含义 |
|---|---|
| Pending | 等待审批 |
| Approved | 审批通过 |
| Rejected | 审批拒绝 |
| Expired | 审批过期 |
| Cancelled | 审批取消 |
| Revision Required | 需要修改后重新提交 |
审批状态变化应该受到严格控制。
例如,已经过期的审批不能直接变成 Approved,已经拒绝的审批也不应该被重复提交执行。
5.3 审批流程
flowchart TD
A["Agent 创建审批请求"] --> B["保存审批记录"]
B --> C["通知审批人"]
C --> D["审批人查看操作详情"]
D --> E{"审批决定"}
E -->|"通过"| F["验证审批权限"]
E -->|"拒绝"| G["记录拒绝原因"]
E -->|"要求修改"| H["返回修改意见"]
E -->|"超时"| I["标记审批过期"]
F --> J{"权限与状态是否有效"}
J -->|"有效"| K["标记 Approved"]
J -->|"无效"| L["拒绝审批操作"]
K --> M["允许执行对应操作"]
G --> N["通知 Agent"]
H --> O["更新操作参数"]
O --> P["重新发起审批"]
I --> N
L --> N
style A fill:#DCEFE5,stroke:#4F8B70,color:#24563F
style B fill:#EAF3EC,stroke:#83A995,color:#315D49
style C fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style D fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style E fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style F fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style G fill:#F7EAE7,stroke:#C98D7C,color:#754438
style H fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style I fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style J fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style K fill:#E5F0E9,stroke:#83A995,color:#315D49
style L fill:#F7EAE7,stroke:#C98D7C,color:#754438
style M fill:#DCEFE5,stroke:#4F8B70,color:#24563F
style N fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style O fill:#EAF3EC,stroke:#83A995,color:#315D49
style P fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
5.4 审批通过不等于永久授权
这是一个非常重要的安全原则。
假设 Agent 提交了一次删除文件的审批请求,审批人同意删除文件 A。
这并不意味着 Agent 后续可以:
- 删除文件 B。
- 删除整个目录。
- 修改删除参数。
- 使用同一审批结果执行其他操作。
- 在审批过期后继续执行。
审批必须绑定明确的操作范围。
建议至少绑定:
- 任务 ID。
- 工具调用 ID。
- 工具名称。
- 规范化后的操作参数。
- 参数摘要或哈希。
- 审批有效期。
- 审批人身份。
- 授权范围。
如果审批后操作参数发生变化,就应该重新审批。
六、人工反馈与 Agent 自我修正
HITL 不只是让人工决定能不能执行,还可以让人工参与 Agent 的推理和结果修正。
人工反馈可以分为几种类型。
6.1 补充信息
当用户请求不够明确时,Agent 可以请求用户补充信息。
例如:
用户:
帮我分析一下最近的销售情况。
Agent 可能需要进一步了解:
- 分析哪个时间范围?
- 关注哪些产品?
- 是否需要按地区对比?
- 是否需要生成图表?
用户补充后,Agent 将新信息加入当前任务状态,再继续执行。
6.2 修正参数
假设 Agent 准备查询:
{
"start_date": "2026-10-01",
"end_date": "2026-10-31",
"region": "all"
}
人工发现应该只分析华东地区,于是修改为:
{
"start_date": "2026-10-01",
"end_date": "2026-10-31",
"region": "east"
}
Agent 应该将修改后的参数作为新的执行输入,而不是继续使用原始参数。
6.3 修改生成结果
例如,Agent 生成了一份业务分析报告,人工提出:
- 删除未经证实的结论。
- 补充数据来源。
- 调整图表展示方式。
- 将重点放在利润率变化。
- 对异常数据增加解释。
Agent 根据反馈重新生成内容。
6.4 纠正决策方向
有些时候,Agent 的推理方向本身就存在偏差。
例如:
Agent 认为销售下降是因为价格过高。
人工补充信息:
本月主要问题是库存不足,而不是价格。
Agent 应该更新当前任务上下文,重新分析库存、订单和销售数据,而不是只修改报告中的一句话。
6.5 人工反馈的闭环
flowchart TD
A["Agent 生成初始决策"] --> B["展示决策与依据"]
B --> C["人工审查"]
C --> D{"反馈类型"}
D -->|"补充信息"| E["补充任务上下文"]
D -->|"修改参数"| F["修正执行参数"]
D -->|"修改结果"| G["调整生成内容"]
D -->|"纠正方向"| H["调整任务目标或策略"]
E --> I["更新 Agent State"]
F --> I
G --> I
H --> I
I --> J["Agent 重新推理"]
J --> K["生成新的决策"]
K --> L{"是否满足要求"}
L -->|"否"| B
L -->|"是"| M["继续执行任务"]
style A fill:#DCEFE5,stroke:#4F8B70,color:#24563F
style B fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style C fill:#EAF3EC,stroke:#83A995,color:#315D49
style D fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style E fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style F fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style G fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style H fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style I fill:#EAF3EC,stroke:#83A995,color:#315D49
style J fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style K fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style L fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style M fill:#E5F0E9,stroke:#83A995,color:#315D49
人工反馈应当被明确记录,包括反馈人、反馈时间、反馈内容和对应任务版本。
如果反馈会改变重要业务决策,还应该保留原始决策与修正后的决策,方便追踪。
七、HITL 与 Agent 状态持久化
人机协作通常不是一次即时交互。
审批人可能几分钟后才响应,也可能几个小时甚至几天后才处理。
因此,Agent 必须能够在等待人工反馈时释放执行资源,并在收到响应后恢复原来的任务。
这就需要结合 State、Checkpoint 和持久化机制。
7.1 为什么需要持久化
假设 Agent 正在执行一个采购任务:
- 查询供应商报价。
- 对比供应商资质。
- 生成采购建议。
- 提交采购审批。
- 等待管理员确认。
如果 Agent 一直占用 Worker 等待审批,会浪费执行资源。
如果进程被关闭,又没有保存状态,后续就无法恢复原来的任务。
因此,合理的设计是:
- 保存当前 Agent State。
- 保存当前检查点。
- 创建独立审批记录。
- 将任务状态设置为 Waiting。
- 释放当前 Worker。
- 等待审批事件。
- 审批完成后重新调度任务。
- 从检查点恢复执行。
7.2 HITL 状态设计
from typing import TypedDict, Literal, Any
class ApprovalInfo(TypedDict):
approval_id: str
status: Literal[
"pending",
"approved",
"rejected",
"expired",
"cancelled"
]
approver_id: str | None
comment: str | None
class AgentState(TypedDict):
task_id: str
goal: str
messages: list[Any]
status: Literal[
"running",
"waiting",
"completed",
"failed",
"cancelled"
]
current_step: str
iteration: int
pending_action: dict[str, Any] | None
approval: ApprovalInfo | None
checkpoint_id: str | None
这里的 pending_action 用于保存等待审批的操作内容。
approval 用于记录审批状态。
checkpoint_id 用于关联当前任务对应的持久化检查点。
7.3 人工等待状态机
| 状态 | 含义 | 主要操作 |
|---|---|---|
| Running | Agent 正在执行 | 正常运行 |
| Approval Pending | 等待审批 | 暂停并保存状态 |
| Approved | 审批通过 | 允许继续执行 |
| Rejected | 审批拒绝 | 终止或调整任务 |
| Waiting Input | 等待用户输入 | 保存上下文 |
| Resuming | 正在恢复 | 加载检查点 |
| Completed | 任务完成 | 保存最终结果 |
7.4 暂停与恢复流程
flowchart TD
A["Agent 执行任务"] --> B["识别需要人工介入"]
B --> C["生成待审批操作"]
C --> D["保存 Agent State"]
D --> E["创建 Checkpoint"]
E --> F["创建审批记录"]
F --> G["任务状态设置为 Waiting"]
G --> H["释放 Worker"]
H --> I["等待审批事件"]
I --> J["接收审批结果"]
J --> K["验证审批人权限"]
K --> L{"审批结果"}
L -->|"通过"| M["更新审批状态"]
L -->|"拒绝"| N["更新拒绝状态"]
M --> O["创建恢复任务"]
O --> P["加载 Checkpoint"]
P --> Q["验证待执行操作"]
Q --> R["继续 Agent Loop"]
N --> S["终止或调整任务"]
style A fill:#DCEFE5,stroke:#4F8B70,color:#24563F
style B fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style C fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style D fill:#EAF3EC,stroke:#83A995,color:#315D49
style E fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style F fill:#EAF3EC,stroke:#83A995,color:#315D49
style G fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style H fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style I fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style J fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style K fill:#EAF3EC,stroke:#83A995,color:#315D49
style L fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style M fill:#E5F0E9,stroke:#83A995,color:#315D49
style N fill:#F7EAE7,stroke:#C98D7C,color:#754438
style O fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style P fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style Q fill:#EAF3EC,stroke:#83A995,color:#315D49
style R fill:#DCEFE5,stroke:#4F8B70,color:#24563F
style S fill:#F7EAE7,stroke:#C98D7C,color:#754438
7.5 审批与执行之间的一致性
这里有一个非常容易忽略的问题:
审批通过之后,Agent 可能因为网络问题或进程崩溃,没有收到恢复事件。
如果系统只是依赖一次消息通知,就可能出现任务永久等待。
更可靠的方式是:
- 审批记录持久化。
- 审批结果通过事务更新。
- 审批完成事件写入可靠消息队列,或采用事务 Outbox。
- 后台调度器扫描待恢复任务。
- 恢复操作具有幂等性。
- 同一个任务只能由一个有效 Worker 接管。
此外,审批通过之后,Agent 不能直接相信历史状态中的操作参数。
执行前仍然需要重新校验参数、权限和审批有效期,确保实际执行的操作与审批内容一致。
八、使用 LangGraph 实现 Human-in-the-loop
LangGraph 提供了适合构建 HITL 工作流的机制,其中最重要的是:
interrupt():暂停当前执行,等待外部输入。Command(resume=...):向暂停的流程提供恢复数据。Checkpointer:保存图执行状态。thread_id:关联同一执行线程的检查点。
这几个机制组合起来,可以实现 Agent 暂停、人工审批和恢复执行。
8.1 定义 Agent State
from typing import TypedDict, Literal, Any
class AgentState(TypedDict):
task: str
action: dict[str, Any]
status: Literal[
"running",
"waiting",
"approved",
"rejected",
"completed"
]
approval_result: dict[str, Any] | None
result: str
8.2 定义需要人工审批的节点
from langgraph.types import interrupt
def approval_node(state: AgentState):
action = state["action"]
decision = interrupt({
"type": "approval",
"task": state["task"],
"action": action,
"message": "是否允许执行该操作?"
})
return {
"approval_result": decision,
"status": (
"approved"
if decision.get("approved")
else "rejected"
)
}
interrupt() 会暂停当前图执行,并将传递给它的数据作为待处理的人机交互信息。
调用者可以从中获取审批请求内容,并交给前端审批界面或业务审批服务。
需要注意:包含 interrupt() 的节点在恢复时可能会从节点开头重新执行。因此,放在 interrupt() 之前的代码应避免产生不可重复的外部副作用。