一、什么是 AI Agent
AI Agent(人工智能智能体)是一种能够围绕目标自主执行任务的智能系统。
传统 AI 应用通常采用固定流程:用户输入问题,模型生成结果,系统返回响应。
AI Agent 则不仅负责生成内容,还能够根据目标决定下一步做什么,调用外部工具获取信息或执行操作,并根据执行结果调整后续行为。
例如,用户提出:
帮我分析当前项目的技术债务,找出最值得优先处理的三个问题,并生成一份改进计划。
普通 LLM 应用可能直接根据用户提供的上下文生成一份分析报告。
AI Agent 则可能执行:
- 理解用户的目标和约束。
- 检查项目目录和代码结构。
- 分析依赖关系与代码质量。
- 调用静态分析工具。
- 检查测试覆盖率和构建结果。
- 汇总问题并评估优先级。
- 根据分析结果制定改进计划。
- 生成最终报告。
整个过程中,Agent 不只是生成文本,而是在不断感知环境、做出决策和执行动作。
1.1 Agent 的核心定义
可以将 AI Agent 定义为:
一个能够感知环境、理解目标、制定行动计划、调用工具执行任务,并根据反馈持续调整行为的智能系统。
它通常具备以下五种核心能力:
| 能力 | 含义 | 典型表现 |
|---|---|---|
| 感知(Perception) | 获取环境和任务信息 | 读取文件、接收用户输入 |
| 推理(Reasoning) | 分析问题和判断下一步行动 | 识别任务依赖、分析方案 |
| 规划(Planning) | 将目标拆解为可执行步骤 | 生成任务计划 |
| 行动(Action) | 执行操作或调用工具 | 搜索、运行代码、访问 API |
| 反馈(Feedback) | 根据执行结果调整策略 | 重试、修正计划、终止任务 |
这些能力共同构成 Agent 的基本运行机制。
1.2 Agent 与传统程序的区别
传统程序通常按照开发者预先定义的逻辑执行。
例如:
def process_order(order):
validate_order(order)
calculate_price(order)
create_payment(order)
send_notification(order)
程序的执行路径由代码决定,通常不会自主改变任务目标或选择新的工具。
AI Agent 则可以根据任务内容动态决定执行步骤。
例如:
def agent(user_goal):
context = perceive(user_goal)
while not context.goal_completed:
plan = reason_and_plan(context)
action = select_action(plan)
result = execute(action)
context = update_context(context, result)
return generate_final_result(context)
这段代码只是简化的执行模型,实际 Agent 还需要处理工具权限、执行状态、异常、上下文窗口、循环终止和人工确认等问题。
两者的主要区别:
| 维度 | 传统程序 | AI Agent |
|---|---|---|
| 执行逻辑 | 预定义规则 | 模型参与动态决策 |
| 流程结构 | 相对固定 | 可以动态调整 |
| 输入处理 | 按固定 Schema | 可以理解自然语言和多模态输入 |
| 工具选择 | 开发者指定 | 可以根据任务选择 |
| 环境反馈 | 由程序显式处理 | 可以结合模型进行判断 |
| 异常处理 | 预设分支 | 可根据反馈选择恢复策略 |
| 自主程度 | 由代码逻辑决定 | 受模型、工具和权限约束 |
需要注意,AI Agent 并不是完全脱离程序控制的自主实体。
它的执行范围仍然受到系统提示词、工具定义、权限策略、运行时约束和业务规则的限制。
二、LLM、AI 应用与 AI Agent 的关系
理解 AI Agent,需要先区分几个容易混淆的概念。
2.1 LLM:大语言模型
LLM(Large Language Model)是 Agent 的核心智能组件之一。
它负责:
- 理解自然语言。
- 分析上下文。
- 生成文本。
- 识别任务意图。
- 推理和规划。
- 生成结构化输出。
- 判断是否需要调用工具。
但 LLM 本身通常不具备直接访问外部系统的能力。
模型可以生成一段 SQL,但真正执行 SQL 的是数据库连接组件;模型可以生成 HTTP 请求参数,但真正访问外部服务的是工具执行层。
因此,LLM 更像是 Agent 的决策和推理引擎。
2.2 AI Application:AI 应用
AI Application 是围绕模型构建的完整应用。
它通常包括:
- 用户交互界面。
- Prompt 管理。
- 模型调用。
- 上下文管理。
- 数据检索。
- 业务逻辑。
- 结果展示。
并不是所有 AI 应用都是 Agent。
例如,一个简单的文本摘要服务:
用户输入文章
↓
调用 LLM
↓
生成摘要
↓
返回结果
它虽然使用了大模型,但执行流程基本固定,不需要自主规划或动态选择行动。
2.3 AI Agent:具备行动能力的 AI 系统
Agent 在 AI 应用的基础上增加了动态决策和行动能力。
flowchart TD
A["用户目标"] --> B["AI Application"]
B --> C["调用 LLM"]
C --> D{"是否需要自主行动"}
D -->|"否"| E["生成结果并返回"]
D -->|"是"| F["Agent Runtime"]
F --> G["任务规划"]
G --> H["工具选择与执行"]
H --> I["获取环境反馈"]
I --> J{"目标是否完成"}
J -->|"否"| G
J -->|"是"| K["汇总结果并返回"]
style A fill:#DCEFE5,stroke:#4F8B70,color:#24563F
style B fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style C fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style D fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style E fill:#E5F0E9,stroke:#83A995,color:#315D49
style F fill:#DCEFE5,stroke:#4F8B70,color:#24563F
style G fill:#EAF3EC,stroke:#83A995,color:#315D49
style H fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style I fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style J fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style K fill:#E5F0E9,stroke:#83A995,color:#315D49
三者的关系可以概括为:
- LLM 提供语言理解、推理和生成能力。
- AI Application 将模型能力封装为可使用的业务功能。
- AI Agent 在应用基础上引入动态规划、工具执行和反馈控制。
三、AI Agent 的核心架构
一个生产级 AI Agent 通常不是单个模型,而是由多个协作组件组成的运行系统。
3.1 整体架构
典型架构可以划分为七个部分:
| 组件 | 核心职责 |
|---|---|
| Agent Interface | 接收用户请求,展示执行状态和结果 |
| Agent Runtime | 管理 Agent 生命周期和执行循环 |
| LLM Engine | 负责推理、规划和决策 |
| Tool Registry | 管理可用工具及其定义 |
| Tool Executor | 执行模型选择的工具调用 |
| Memory System | 保存短期上下文和长期记忆 |
| State Manager | 管理任务状态、执行记录和检查点 |
架构关系:
flowchart TB
A["用户 / 外部事件"] --> B["Agent Interface"]
B --> C["Agent Runtime"]
C --> D["LLM Engine"]
C --> E["Memory System"]
C --> F["State Manager"]
D --> G["Tool Registry"]
G --> H["Tool Executor"]
H --> I["外部工具与环境"]
I --> H
H --> C
E --> D
F --> C
C --> J["结果输出"]
style A fill:#DCEFE5,stroke:#4F8B70,color:#24563F
style B fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style C fill:#DCEFE5,stroke:#4F8B70,color:#24563F
style D fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style E fill:#EAF3EC,stroke:#83A995,color:#315D49
style F fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style G fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style H fill:#EAF3EC,stroke:#83A995,color:#315D49
style I fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style J fill:#E5F0E9,stroke:#83A995,color:#315D49
3.2 Agent Runtime
Agent Runtime 是整个 Agent 系统的执行控制中心。
它负责协调模型、工具、记忆和任务状态。
核心职责包括:
- 接收用户任务。
- 初始化运行上下文。
- 调用模型进行决策。
- 解析模型返回的行动指令。
- 调度工具执行。
- 将工具结果反馈给模型。
- 判断是否继续执行。
- 管理超时和最大循环次数。
- 保存执行状态。
- 处理取消和异常。
Runtime 不应该将所有执行逻辑都交给 LLM。
模型负责提出行动建议,Runtime 负责验证和执行。
例如,模型请求删除一个文件,Runtime 必须检查文件路径、用户权限和操作风险,而不是直接执行模型生成的指令。
3.3 LLM Engine
LLM Engine 是 Agent 的推理引擎。
它通常承担:
- 任务意图理解。
- 上下文分析。
- 任务拆解。
- 行动选择。
- 参数生成。
- 工具调用决策。
- 结果评估。
- 最终回答生成。
需要注意,模型输出并不等于可信的执行指令。
即使模型生成了符合 JSON 格式的参数,也必须经过 Schema 校验、权限校验和业务规则检查。
四、AI Agent 的核心运行机制
Agent 最重要的特征不是使用了大模型,而是形成了一个持续运行的决策与执行循环。
4.1 Agent Loop
一个典型的 Agent Loop 包含以下步骤:
- Observe:观察当前环境和任务状态。
- Think:分析问题和已有信息。
- Plan:制定下一步计划。
- Act:执行工具或环境操作。
- Evaluate:评估执行结果。
- Repeat:根据反馈继续执行或结束任务。
flowchart TD
A["接收任务"] --> B["Observe:感知环境"]
B --> C["Think:分析与推理"]
C --> D["Plan:制定计划"]
D --> E["Act:执行行动"]
E --> F["Evaluate:评估结果"]
F --> G{"目标是否完成"}
G -->|"否"| B
G -->|"是"| H["生成最终结果"]
style A fill:#DCEFE5,stroke:#4F8B70,color:#24563F
style B fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style C fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style D fill:#EAF3EC,stroke:#83A995,color:#315D49
style E fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style F fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style G fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style H fill:#E5F0E9,stroke:#83A995,color:#315D49
这是一种抽象执行模型。
实际实现中,Observe、Think、Plan 和 Evaluate 不一定分别调用模型,也可能被合并在一次模型调用中。
关键是 Agent 必须能够根据实际执行结果调整后续行动,而不是始终按照固定步骤执行。
4.2 Agent 的执行状态
Agent 不能只保存一段对话历史。
复杂任务需要显式状态管理。
例如:
{
"run_id": "run_10001",
"task": "分析项目技术债务",
"status": "RUNNING",
"current_step": "ANALYZE_DEPENDENCIES",
"plan": [
{
"step": 1,
"name": "读取项目结构",
"status": "COMPLETED"
},
{
"step": 2,
"name": "分析依赖关系",
"status": "RUNNING"
},
{
"step": 3,
"name": "检查测试覆盖率",
"status": "PENDING"
}
],
"tool_calls": [],
"observations": [],
"iteration": 2
}
状态信息通常包括:
- 任务目标。
- 任务约束。
- 当前计划。
- 已完成步骤。
- 待执行步骤。
- 工具调用记录。
- 工具返回结果。
- 当前执行轮次。
- 失败原因。
- 最终完成条件。
这样即使任务执行中断,也能够根据检查点恢复,而不是重新从头执行。
五、Agent 的规划机制
规划(Planning)是 AI Agent 区别于简单工具调用系统的重要能力。
它负责将一个复杂目标转换成可执行的任务步骤。
5.1 任务分解
假设用户提出:
分析某个技术项目,找出性能瓶颈,并提出优化方案。
这个目标过于宽泛,不能直接对应一个工具调用。
Agent 需要将其拆解为:
flowchart TD
A["分析项目性能"] --> B["获取项目代码"]
B --> C["识别系统架构"]
C --> D["分析关键调用链"]
D --> E["检查 CPU 与内存使用"]
E --> F["分析数据库访问"]
F --> G["定位性能瓶颈"]
G --> H["评估优化方案"]
H --> I["生成优化报告"]
style A fill:#DCEFE5,stroke:#4F8B70,color:#24563F
style B fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style C fill:#EAF3EC,stroke:#83A995,color:#315D49
style D fill:#EAF3EC,stroke:#83A995,color:#315D49
style E fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style F fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style G fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style H fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style I fill:#E5F0E9,stroke:#83A995,color:#315D49
这里的任务步骤并不一定完全固定。
例如,如果发现项目没有性能监控数据,Agent 可能需要先寻找日志或配置文件;如果发现数据库查询存在明显问题,则可以进一步分析 SQL 执行计划。
这就是动态规划与固定工作流的区别。
5.2 常见规划策略
1. 顺序规划
任务按照先后顺序执行。
适合具有明确依赖关系的任务。
例如:
- 读取文件。
- 提取内容。
- 分析内容。
- 生成报告。
2. 并行规划
多个互不依赖的任务可以同时执行。
例如:
- 分析代码结构。
- 检查依赖漏洞。
- 统计测试覆盖率。
这些任务可以由不同 Worker 并行处理。
3. 条件规划
根据中间结果决定后续执行路径。
例如:
- 如果发现安全漏洞,进入安全分析流程。
- 如果没有发现漏洞,继续检查性能问题。
4. 迭代规划
执行一步后,根据结果重新规划。
适合探索性任务、调试任务和开放式研究任务。
5.3 规划与工作流的区别
| 维度 | 固定工作流 | Agent 动态规划 |
|---|---|---|
| 执行路径 | 预先定义 | 根据任务和反馈生成 |
| 条件分支 | 开发者定义 | 模型参与判断 |
| 任务拆解 | 通常固定 | 可以动态调整 |
| 工具选择 | 通常预先指定 | 可以动态选择 |
| 可预测性 | 较高 | 相对较低 |
| 执行成本 | 容易估算 | 可能存在额外推理成本 |
| 适用场景 | 标准化业务流程 | 开放式复杂任务 |
需要注意,Agent 并不意味着所有任务都应该动态规划。
对于支付、订单、审批和资金操作等强约束业务,固定工作流通常更加可靠。
实际系统经常采用混合架构:固定工作流负责关键控制,Agent 负责复杂判断和非确定性任务。
六、工具调用机制(Tool Calling)
工具调用是 AI Agent 从语言生成走向真实行动的关键能力。
LLM 本身通常无法直接访问文件系统、数据库、浏览器或业务系统。
需要通过 Tool Calling 将模型决策转换为外部操作。
6.1 什么是工具
工具(Tool)是 Agent 可以调用的外部能力。
常见工具包括:
| 工具类别 | 典型能力 |
|---|---|
| 搜索工具 | Web Search、知识库检索 |
| 文件工具 | 文件读取、文件写入 |
| 数据工具 | SQL 查询、数据分析 |
| 代码工具 | Python 执行、Shell 执行 |
| 浏览器工具 | 页面访问、点击和表单操作 |
| 通信工具 | 邮件发送、消息通知 |
| 业务工具 | 创建订单、查询账户、审批 |
| 系统工具 | 获取时间、读取系统状态 |
工具需要具备明确的名称、描述、参数结构和执行逻辑。
6.2 工具定义
一个工具通常由以下部分组成:
- Tool Name:工具名称。
- Description:工具用途描述。
- Parameters:输入参数。
- Schema:参数结构和类型约束。
- Handler:实际执行函数。
- Permission:调用权限。
- Timeout:执行超时时间。
例如,定义一个天气查询工具:
{
"type": "function",
"function": {
"name": "get_weather",
"description": "查询指定城市的天气信息",
"parameters": {
"type": "object",
"properties": {
"city": {
"type": "string",
"description": "城市名称"
}
},
"required": ["city"]
}
}
}
模型看到工具定义后,可以根据用户请求判断是否需要调用。
6.3 Tool Calling 的完整过程
flowchart TD
A["用户提出请求"] --> B["Agent 调用 LLM"]
B --> C["模型分析可用工具"]
C --> D{"是否需要工具"}
D -->|"否"| E["生成普通文本"]
D -->|"是"| F["返回工具调用请求"]
F --> G["Runtime 解析参数"]
G --> H["Schema 校验"]
H --> I["权限与风险检查"]
I --> J{"是否允许执行"}
J -->|"否"| K["拒绝或请求人工确认"]
J -->|"是"| L["Tool Executor 执行"]
L --> M["获取工具结果"]
M --> N["将结果返回 LLM"]
N --> O{"是否需要继续调用"}
O -->|"是"| C
O -->|"否"| P["生成最终回答"]
style A fill:#DCEFE5,stroke:#4F8B70,color:#24563F
style B fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style C fill:#EAF3EC,stroke:#83A995,color:#315D49
style D fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style E fill:#E5F0E9,stroke:#83A995,color:#315D49
style F fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style G fill:#EAF3EC,stroke:#83A995,color:#315D49
style H fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style I fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style J fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style K fill:#F7EAE7,stroke:#C98D7C,color:#754438
style L fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style M fill:#EAF3EC,stroke:#83A995,color:#315D49
style N fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style O fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style P fill:#DCEFE5,stroke:#4F8B70,color:#24563F
注意,模型返回工具调用请求,并不代表工具已经执行。
完整过程至少包括:
- 模型生成工具调用意图。
- Runtime 识别工具名称。
- 参数解析和 Schema 校验。
- 权限和风险检查。
- 执行真实工具函数。
- 获取执行结果。
- 将结果放回模型上下文。
- 模型继续推理或生成最终答案。
6.4 工具调用与普通文本生成的区别
普通文本生成:
输入 Prompt
↓
LLM 生成文本
↓
返回文本
工具调用:
输入 Prompt
↓
LLM 生成工具调用请求
↓
Runtime 执行工具
↓
获取真实执行结果
↓
LLM 根据结果继续处理
两者最大的区别是:工具调用包含外部副作用或外部环境交互。
因此,工具执行必须有独立的安全控制层。
6.5 工具调用的关键工程问题
参数可信度
模型可能生成错误参数,必须进行 Schema 校验。
权限控制
不能因为模型选择了某个工具,就默认用户拥有执行权限。
超时控制
工具调用需要设置超时时间,避免单个操作长期占用 Agent。
幂等性
对于创建订单、发送邮件等操作,应防止重复执行。
副作用管理
写入、删除、支付和发布等操作需要更严格的风险控制。
结果验证
工具返回成功状态,不一定意味着业务目标真正达成。需要检查实际结果。
七、Agent 的记忆系统(Memory)
Agent 需要记忆系统来保存任务上下文、历史信息和长期知识。
如果每次调用模型都只传递当前用户输入,Agent 就无法有效处理跨步骤和跨会话任务。
7.1 为什么 Agent 需要记忆
例如,用户要求:
帮我持续跟进这个项目,每次发现新的问题都记录下来,最终形成一份完整的技术债务报告。
Agent 需要记住:
- 项目基本信息。
- 已分析的模块。
- 已发现的问题。
- 已执行的工具操作。
- 用户提出的约束。
- 尚未完成的任务。
- 历史分析结果。
这些信息不能全部依赖单次 Prompt。
7.2 短期记忆与长期记忆
短期记忆(Short-term Memory)
主要保存当前任务执行过程中的信息。
例如:
- 当前对话上下文。
- 当前任务目标。
- 最近几轮工具调用。
- 当前计划。
- 当前执行状态。
- 中间结果。
短期记忆通常与当前 Agent Run 或 Session 绑定。
长期记忆(Long-term Memory)
用于保存跨任务、跨会话仍然有价值的信息。
例如:
- 用户偏好。
- 项目背景。
- 长期任务约束。
- 已确认的业务规则。
- 历史任务摘要。
- 可复用的经验知识。
长期记忆通常需要独立存储和检索。
7.3 记忆系统的组成
| 记忆类型 | 主要用途 | 存储方式 |
|---|---|---|
| 对话记忆 | 保存对话上下文 | 消息存储 |
| 任务记忆 | 保存执行进度 | 状态数据库 |
| 语义记忆 | 保存事实和知识 | 数据库、向量库 |
| 情景记忆 | 保存历史任务经历 | 事件记录、摘要 |
| 程序性记忆 | 保存可复用执行方法 | 工作流、技能定义 |
7.4 记忆检索与更新
长期记忆不应该无条件全部塞进 Prompt。
通常需要根据当前任务进行检索、筛选和压缩。
flowchart TD
A["接收新任务"] --> B["提取任务上下文"]
B --> C["生成记忆检索条件"]
C --> D["查询长期记忆"]
D --> E["相关性与权限过滤"]
E --> F["记忆排序与压缩"]
F --> G["构建 Agent Context"]
G --> H["执行任务"]
H --> I["提取新的有效信息"]
I --> J{"是否值得长期保存"}
J -->|"是"| K["更新长期记忆"]
J -->|"否"| L["仅保留任务记录"]
style A fill:#DCEFE5,stroke:#4F8B70,color:#24563F
style B fill:#EAF3EC,stroke:#83A995,color:#315D49
style C fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style D fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style E fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style F fill:#EAF3EC,stroke:#83A995,color:#315D49
style G fill:#DCEFE5,stroke:#4F8B70,color:#24563F
style H fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style I fill:#EAF3EC,stroke:#83A995,color:#315D49
style J fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style K fill:#E5F0E9,stroke:#83A995,color:#315D49
style L fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
记忆系统需要特别注意:
- 记忆来源必须可追溯。
- 不可信输入不能直接升级为长期事实。
- 过期信息需要更新或失效。
- 不同用户和租户之间必须隔离。
- 敏感信息需要遵守访问和保留策略。
- 记忆写入应该具备质量判断机制。
7.5 Memory 与 RAG 的区别
Memory 和 RAG 经常同时出现在 Agent 架构中,但两者解决的问题不同。
| 维度 | Memory | RAG |
|---|---|---|
| 核心目的 | 保存 Agent 的历史状态与经验 | 检索外部知识 |
| 主要内容 | 用户偏好、任务状态、历史经历 | 文档、数据库、业务知识 |
| 数据来源 | Agent 运行过程和明确写入的信息 | 外部知识库 |
| 更新方式 | 记忆提取、合并和淘汰 | 数据同步、解析和索引 |
| 使用时机 | 恢复上下文、延续任务 | 回答问题、获取外部证据 |
Memory 可以使用向量检索,RAG 也可以使用数据库,但不能因为两者使用了相同的存储技术,就将它们视为同一个概念。
八、AI Agent 的上下文管理
Agent 的执行过程通常会产生大量信息。
如果所有内容都持续保留在模型上下文中,会导致 Token 成本增加、注意力分散和上下文窗口溢出。
因此,需要专门的上下文管理机制。
8.1 Context 组成
一次模型调用的上下文通常包括:
System Instructions
+
User Request
+
Task State
+
Conversation History
+
Retrieved Memory
+
Available Tools
+
Recent Tool Results
其中,工具定义和工具返回结果也会占用上下文窗口。
8.2 上下文压缩
常见的上下文管理方式:
- 保留最近对话。
- 对历史对话进行摘要。
- 只保留与当前目标相关的记忆。
- 移除无关工具返回内容。
- 将大型结果保存到外部存储,仅保留引用。
- 将已完成任务压缩成阶段性摘要。
例如,Agent 执行一个大型代码分析任务时,不需要将所有源文件完整内容一直保留在 Prompt 中。
可以将代码分析结果存入外部任务存储,在后续推理时只传入关键结论和必要的文件引用。
8.3 上下文与任务状态不能混为一谈
这是 Agent 工程中一个非常重要的设计问题。
上下文(Context)主要服务于模型推理,任务状态(State)负责记录系统真实执行进度。
两者存在区别:
| 维度 | Context | State |
|---|---|---|
| 主要用途 | 帮助模型理解当前任务 | 控制任务执行 |
| 内容 | 对话、摘要、记忆、工具结果 | 状态、步骤、执行记录 |
| 是否允许压缩 | 可以 | 需要保留必要事实 |
| 是否要求持久化 | 视任务而定 | 长任务通常需要 |
| 是否作为执行依据 | 不能单独作为可信依据 | 是运行时的重要依据 |
不能只依赖模型上下文判断任务是否完成。
例如,模型可能在历史消息中看到“文件已经保存成功”,但实际文件写入操作可能失败。最终状态应该以工具执行记录和实际资源状态为准。
九、Agent 的行动与反馈机制
Agent 与外部环境交互后,必须处理执行反馈。
如果工具返回错误、数据不完整或结果不符合预期,Agent 应该能够调整行动。
9.1 行动结果分类
| 结果类型 | 示例 | 后续处理 |
|---|---|---|
| 成功 | 查询返回正常数据 | 继续任务 |
| 无数据 | 搜索没有结果 | 更换查询条件 |
| 参数错误 | API 参数不符合要求 | 修正参数 |
| 权限错误 | 用户无权访问资源 | 拒绝或请求授权 |
| 临时错误 | 网络超时 | 重试 |
| 业务失败 | 订单创建失败 | 分析业务原因 |
| 部分成功 | 批量操作部分完成 | 识别成功和失败项 |
9.2 反馈驱动的调整
flowchart TD
A["执行工具操作"] --> B["获取执行结果"]
B --> C{"结果类型"}
C -->|"成功"| D["验证目标是否达成"]
C -->|"参数错误"| E["修正参数"]
C -->|"临时错误"| F["有限次数重试"]
C -->|"权限错误"| G["停止操作或请求授权"]
C -->|"业务失败"| H["分析失败原因"]
D --> I{"任务是否完成"}
I -->|"否"| J["重新规划"]
I -->|"是"| K["结束任务"]
E --> J
F --> J
H --> J
style A fill:#DCEFE5,stroke:#4F8B70,color:#24563F
style B fill:#EAF3EC,stroke:#83A995,color:#315D49
style C fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style D fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style E fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style F fill:#EAF3EC,stroke:#83A995,color:#315D49
style G fill:#F7EAE7,stroke:#C98D7C,color:#754438
style H fill:#F7EAE7,stroke:#C98D7C,color:#754438
style I fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
style J fill:#EAE8FA,stroke:#A49BD5,color:#51477D
style K fill:#E5F0E9,stroke:#83A995,color:#315D49
反馈机制需要避免两个极端:
- 盲目重试:重复执行无法恢复的错误。
- 无限调整:模型持续尝试不同方案,却始终无法完成目标。
因此,需要限制最大迭代次数、工具调用次数、执行时间和总成本。
十、Agent 的执行模式与架构形态
Agent 不只有一种运行方式。
根据任务复杂度、工具数量和协作方式,可以采用不同架构。
10.1 单 Agent 架构
单 Agent 是最基础的形态。
由一个 Agent 负责:
- 理解任务。
- 规划步骤。
- 选择工具。
- 执行操作。
- 处理反馈。
- 输出结果。
适合:
- 个人助手。
- 简单代码分析。
- 文档处理。
- 轻量自动化。
- 单一领域任务。
优点是结构简单,状态管理和调试相对容易。
缺点是随着任务复杂度增加,单个 Agent 的 Prompt、工具集合和上下文可能变得庞大。
10.2 多 Agent 架构
多 Agent 系统由多个具有不同职责的 Agent 协同完成任务。
例如,一个技术研究任务可以拆分为:
- Research Agent:负责资料搜索。
- Analysis Agent:负责技术分析。
- Coding Agent:负责代码验证。
- Review Agent:负责结果审查。
- Coordinator Agent:负责协调和汇总。