Agent 基础设施

从三条可恢复原语到 ETCLOVG 七层分类——构建生产级 Agent 的执行安全地基

Agent 的五大执行特征

Agent 与传统软件有本质区别。理解这五个特征是设计基础设施的前提——它们决定了我们需要什么样的安全机制。

1. 长程运行 (Long-Running)
Agent 任务可能持续数分钟到数小时,远超传统 HTTP 请求的生命周期。一次代码审查可能涉及 50+ 工具调用,一次部署任务可能跨越多个审批节点。长程运行意味着中断概率高、状态管理复杂、恢复能力是刚需。
2. 敌意输入 (Adversarial Input)
Agent 处理的用户输入可能包含 prompt injection、工具描述中的隐藏指令、文件内容中的恶意指令。与传统 Web 应用的 SQL 注入不同,Agent 的"注入"直接作用于决策层,可能导致工具滥用或数据泄露。
3. 真实权限 (Real Privileges)
Agent 持有真实的 API Key、数据库连接、文件系统和云服务凭证。一旦决策失误或被注入,造成的不是虚拟损失,而是真实的数据删除、资金转移或权限泄露。权限需要最小化授予和动态回收。
4. 不确定决策 (Non-Deterministic)
LLM 的输出具有概率性,相同输入可能产生不同决策。这意味着 Agent 的行为不完全可预测,传统测试方法无法完全覆盖。需要运行时验证和置信度评估机制来约束关键决策。
5. 真实副作用 (Real Side Effects)
Agent 的操作会产生不可逆的真实后果:发送邮件、创建工单、修改生产数据库、触发 CI/CD 流水线。副作用一旦发生无法"撤销",只能通过预防机制(写前日志、确认网关)来控制。

两个结构性错位

当前基础设施的薄弱根源在于两个深层错位——我们的安全模型和执行模型都是为上一个时代设计的。

错位一:威胁模型错位

Server → Browser 的攻击面转移
传统安全假设:服务端代码可信,浏览器输入不可信。防御重心在边界(WAF、输入校验、权限检查)。

Agent 现实:Agent 的"大脑"(LLM)本身就是攻击面。Prompt injection 不是外部攻击,而是从内部瓦解决策层。工具描述、文件内容、搜索结果都是潜在的注入载体。传统边界防御对这种"内部瓦解"几乎无效。

错位二:执行模型错位

确定性短生命周期 → 概率性长生命周期
传统假设:函数执行是确定性的,生命周期短(毫秒级),失败后重试即可。状态存储在外部数据库中。

Agent 现实:Agent 执行是概率性的(LLM 输出不确定),生命周期长(分钟到小时),中间状态复杂(推理链、工具调用图),简单的"重试"可能产生完全不同的执行路径。需要 checkpoint、rollback 和 fork 等新原语。

三条缺失的原语

针对五大执行特征和两个结构性错位,我们需要三条传统基础设施中不存在的新原语来构建 Agent 的安全地基。

Effect Log 副作用写前日志
定义:在任何产生副作用的操作执行前,先记录意图、参数和预期结果的结构化日志。

核心价值:即使 Agent 崩溃,也能知道"它打算做什么"和"做了什么",支持恢复和审计。

四级可恢复性分类:
Level 1 - 幂等安全:重复执行无副作用(读取、查询)
Level 2 - 可检测:执行后可验证状态(文件写入、数据库更新)
Level 3 - 可补偿:有对应的撤销操作(创建 → 删除)
Level 4 - 不可逆:无法撤销的操作(发送邮件、支付转账)
Capability Gateway 能力网关
定义:将 Agent 的长期凭证替换为临时令牌,每次工具调用需要通过网关获取限时权限。

工作机制:Agent 持有短期 session token → 请求工具调用时,网关验证上下文 → 签发限时工具令牌(TTL: 30s-5min)→ 工具验证令牌有效性后执行。

安全收益:即使 Agent 被注入恶意指令,攻击窗口被限制在当前令牌的有效期内。令牌过期后,攻击路径自动断裂。实现了"最小权限 + 时间约束"的双重保护。
Fork Recovery 分叉恢复
定义:基于 checkpoint 的断点续传机制,Agent 可以在任意时间点创建快照,失败时从最近的检查点恢复而非重头开始。

Checkpoint 内容:对话上下文、已完成的工具调用结果、当前推理状态、effect log 累积记录。

三种恢复策略:
Retry:从当前 checkpoint 重试同一操作
Rewind:回退到更早的 checkpoint,换一条路径
Fork:从 checkpoint 分叉出新的执行分支,并行探索
三条原语的协同关系

Effect Log 记录"发生了什么",Capability Gateway 控制"能做什么",Fork Recovery 解决"怎么恢复"。三者形成完整的执行安全闭环:事前约束(Gateway)+ 事中记录(Log)+ 事后恢复(Fork)。缺少任何一条,Agent 都有结构性的安全盲区。

范式转换

旧范式
Uptime 可用性
新范式
Resumability 可恢复性

传统基础设施追求"不停机"(99.99% uptime),通过冗余和负载均衡来避免中断。但对于长程运行的 Agent,"不中断"是不现实的——LLM API 限流、网络抖动、工具服务不可用都是常态。

新范式的核心不是避免中断,而是让中断变得无害:每次操作都有 checkpoint,每个副作用都有日志,每次恢复都有确定的起点。就像分布式系统中的 WAL(Write-Ahead Log),Agent 需要自己的"执行日志"来保证 at-least-once 语义。

ETCLOVG 七层分类法

将 Agent 基础设施按职责划分为七个层次,前四层构成数据平面(Data Plane),后三层构成控制平面(Control Plane)。

Data Plane 数据平面 — 执行链路
EExecution 执行运行时
TTooling 工具与协议
CContext 上下文与记忆
LLifecycle 生命周期管理

Control Plane 控制平面 — 治理与保障
OObservability 可观测性
VVerification 验证与评测
GGovernance 治理与合规
名称 核心关注 代表技术 / 项目
E Execution LLM 调用、沙箱隔离、代码执行 E2B, Modal, Fly.io, vLLM
T Tooling 工具注册、MCP Server、能力网关 MCP, Composio, Toolhouse
C Context 三层记忆、向量检索、RAG 管线 Mem0, Zep, Pinecone, Weaviate
L Lifecycle 任务编排、checkpoint、恢复策略 LangGraph, Prefect, Temporal, Inngest
O Observability 追踪、日志、指标、cost tracking LangSmith, Helicone, Arize, Braintrust
V Verification 评测框架、红队测试、安全扫描 Inspect AI, Promptfoo, Garak
G Governance 权限管理、审计合规、策略引擎 Portkey, Prompt Armor, Lasso
170+
生态项目总数
47
L 层项目数 (最密)
7
分类层级
4 + 3
数据平面 + 控制平面
L 层为什么最密?

Lifecycle 层承载了 Agent 最复杂的工程挑战——长程任务的状态管理、失败恢复、多步编排。47 个项目说明这个领域尚未收敛,各种方案(状态机、DAG、事件驱动)都在竞争。对于构建 Agent 平台的团队,L 层是投入产出比最高的关注点。

Agentic Scaling Infra 四维框架

Agent 基础设施的规模化需要从四个维度同时推进,缺一不可:

快 (Speed) — 迭代速度
衡量标准不是 tokens/s,而是 iteration/s——每秒能完成多少轮有效的"执行-评估-改进"循环。

关键指标:工具调用延迟 p50/p99、checkpoint 创建耗时、恢复时间(MTTR)、反馈回路闭合时间。

工程手段:连接池预热、工具调用并行化、增量 checkpoint、流式响应处理。
稳 (Sandbox) — 执行安全
每个 Agent 执行都在可观测、可审计、可回滚的受控环境中运行。

三层隔离:网络隔离(VPC + 出口白名单)、进程隔离(容器 + seccomp)、数据隔离(临时文件系统 + 权限沙箱)。

核心原则:爆炸半径最小化——单个 Agent 的故障不应影响其他 Agent 或生产系统。
准 (Harness) — 驾驭精度
Harness 系统需要可泛化、可学习、可组合,确保 Agent 行为符合预期。

可泛化:规则从一个场景迁移到另一个场景时仍然有效。
可学习:从历史执行数据中自动优化约束规则。
可组合:不同 harness 模块可以灵活组合,适应不同任务类型。
广 (Parallel) — 并行规模
多路径 Agent 并行探索 + 验证器筛选最佳结果。

模式:同一任务启动 N 个 Agent 实例,采用不同策略并行执行,由 Verifier 评估并选择最优输出。

成本优化:快速失败(early stop)、自适应并行度、结果缓存与复用。

绑定约束论

Agent 系统的性能瓶颈不在模型能力,而在 Harness(驾驭)层。更好的约束比更好的模型更能提升 Agent 表现。

三项实证验证

Boluk et al. — 约束工程 10x 效应
在相同的 LLM 基础上,通过优化 prompt 结构、工具描述和输出格式约束,Agent 的任务完成率提升了 10 倍。这证明了 harness 层的改进可以成倍放大模型能力的实际效果。
Trivedy et al. — 结构化约束 +13.7pp
在多步推理任务中,引入结构化输出约束(JSON Schema 强制、步骤验证、中间结果检查点后),Agent 准确率提升了 13.7 个百分点。约束越精确,模型的"幻觉空间"越小。
Meta-Harness Study — 76.4% 方差解释率
对 50+ Agent 系统的元分析显示,Harness 层设计差异可以解释 76.4% 的性能方差。模型选择只解释了 11.2%,其余归因于数据质量和运行时配置。
核心论点:Harness 是绑定约束,不是模型能力

这意味着 Agent 工程的投资重心应该从"换更好的模型"转向"建更好的驾驭系统"。更好的约束、更精确的工具描述、更完善的验证机制——这些 harness 层的工作才是 Agent 性能的真正杠杆点。模型能力是天花板,但 harness 决定了你能离天花板有多近。