🤖 AI Agent 经典研读

深入理解 AI Agent

李博士(Lilian Weng)2023年经典原著 × 知微全注 × 世界前沿理论 × 成功案例
从三组件到六范式——天枢Agent学习体系的基石文献

李博士(Lilian Weng)· 微软/OpenAI 资深研究员
原文 2023-06-23 · 知微注 2026-07-26
原著 6,588 词 · 全文收录
1
经典原著
6
系统组件
3
核心范式
8+
成功案例
3
工程方法论
2026
最新演进

🤖 Agent 系统核心框架

🧠

大脑:LLM控制器

LLM作为Agent的核心控制器,协调各子系统运转

→ Lilian Weng 2023
📐

规划 Planning

子目标分解 + 自我反思 refinement,让复杂任务可执行

→ CoT / ToT / ReAct / Reflexion
🧩

记忆 Memory

短时记忆(上下文)+ 长时记忆(向量存储+快速检索)

→ Vector Store + MIPS
🔧

工具 Tool Use

调用外部API获取权重缺失信息:实时信息、代码执行、专有数据

→ Toolformer / API调用
⚙️

Harness 约束工程

约束即方向,Constitutional AI设定行为边界

→ Harness Engineering 专题
🔄

Loop 反馈工程

控制论×认知科学,最优深度因任务而异

→ Loop Engineering 专题

📖 李博士原文精读(知微注)

§1 · Agent 概念起源与定义

"Building agents with LLM as its core controller is a cool concept. Several proof-of-concepts demos, such as AutoGPT, GPT-Engineer and BabyAGI, serve as inspiring examples. The potentiality of LLM extends beyond generating well-written copies, stories, essays and programs; it can be framed as a powerful general problem solver."
📝 知微注解

李博士在2023年6月提出这个框架时,AutoGPT刚火遍全网。她敏锐地指出:LLM不只是写作工具,而是通用问题求解器。这个定义在2026年的今天依然成立,但边界已大幅扩展。

AutoGPT GPT-Engineer BabyAGI 这三个POC(Proof of Concept)虽粗糙,但证明了"LLM作为大脑"的可行性。

⚠️ 历史局限性:2023年的Agent缺乏稳定的长程规划、工具调用错误率高、记忆系统简陋。李博士自己在Challenges章节也承认了这些问题。

§2 · 三大组件体系(核心框架)

原文框架:

Lilian Weng 2023 核心框架
LLM Brain
 ├── Planning(规划)
 │   ├── Subgoal & Decomposition(任务分解)
 │   └── Reflection & Refinement(自我反思)
 ├── Memory(记忆)
 │   ├── Short-term(短时 = 上下文学习)
 │   └── Long-term(长时 = 向量存储+检索)
 └── Tool Use(工具调用)
📝 知微注解 — 框架的局限与2026年演进

李博士的框架是最小可行架构,但2026年已有重大扩展:

Harness层:在Planning之前增加"约束层"——Constitutional AI / RLHF / DPO 设定行为边界(详见 Harness Engineering 专题)

Graph层:记忆不再只是向量检索,还加入知识图谱支持多跳推理(详见 Graph Engineering 专题)

Skill层:工具从"API调用"升级为"技能系统"——MCP协议支持动态发现、安全审计、跨Agent共享(详见 Skill Engineering 专题)

§3 · Planning 篇:任务分解

原文介绍三种任务分解方法:

任务分解方法对比
方法1: LLM + 简单提示词
  "分解为步骤" / "列出子目标"
  优点:通用、成本低
  缺点:不稳定、复杂任务易出错

方法2: 任务特定指令(Task-specific)
  "Write a story outline."(写小说场景)
  优点:质量稳定
  缺点:场景受限

方法3: LLM+P(外部经典规划器)
  PDDL作为中间接口
  优点:长期规划可靠
  缺点:依赖PDDL领域建模、机器人大多场景
📝 知微注解 — 2026年方法论演进

李博士提到的方法1在2023年是最先进的,但2024-2025年Chain of Thought → Tree of Thoughts → Graph of Thoughts已经完成了从链到树到图的演进。

2026年的重大突破是ReWOO(Reasoning WithOout Observation)和OpenForgeRLarXiv:2607.21557)——将规划从"LLM内部推理"外化为可训练的RL任务,而不是每次推理都依赖LLM本身。

李博士原文的CoT→ToT演进路线(2022→2023)被2024-2026的GoT(Graph of Thoughts)、PoT(Program of Thoughts)、ReAct完整继承并超越。

§4 · Self-Reflection 篇:自我反思机制

原文核心:Reflexion框架通过"失败轨迹+反思对"让LLM学会从错误中学习:

Reflexion 反思循环
Action → 评估(heuristic ht) → 判断:
  ├── 失败 → 生成 self-reflection → 加入 working memory
  └── 成功 → 继续

Working Memory(最多3条反思):
  "之前的路径X导致了Y错误,下次应避免"
  
关键机制:
  • Hallucination检测:连续相同动作+相同观察 → 停止
  • Inefficient检测:超时未成功 → 停止
  • 两-shot examples 教会LLM如何反思
📝 知微注解 — Self-Reflection → Loop Engineering

李博士的Self-Reflection正是Loop Engineering(闭环反馈工程)的雏形。

2024-2026年演进:

Self-Refine(论文 2023)→ LLM反复评估+改进输出

Voyager(论文 2023)→ 终身学习Agent,技能库动态扩展

Memory Agents(2024)→ 分层记忆(情景/语义/程序)+ 选择性遗忘

OpenForgeRL(2026)→ Harness驱动的RL训练框架,让Agent在任意环境中学会使用harness

李博士原文中的Reflexion启发自Shinn & Labash 2023,但她的解读让这个概念在中文AI社区广泛传播。

§5 · Memory 篇:短时+长时记忆

原文定义:短时=上下文学习(In-context),长时=外部向量存储+检索。

MIPS — 最大内积搜索
长时记忆技术栈:
  [Agent Experience] → [Embedding Model] → [Vector Store]
                                    ↓
                             [MIPS Query]
                                    ↓
                             [Top-K Results]

主流算法对比(知微补充 2024-2026):
  • FAISS (Meta) — IVF-PQ索引,亿级向量毫秒级检索
  • Chroma — 本地优先,开发者友好
  • Pinecone — 云原生,全托管
  • Qdrant — Rust实现,高性能+过滤支持
  • Weaviate — 混合搜索(向量+关键词)

LLM视角下的记忆:
  短时 = in-context learning(当前会话)
  长时 = RAG检索(跨会话)
  程序 = Skill/工具(跨任务)
📝 知微注解 — 2026年记忆系统演进

李博士当时推荐的方法在2026年已全面升级:

SALTarXiv:2607.17486)— 显著度感知压缩,按信息价值排序而非简单打分,2026年最新

C²KVarXiv:2607.17715)— KV缓存跨请求复用,推理成本降低50%+

知识图谱增强— 纯向量检索→向量+图谱混合,Graph Engineering专题有完整方法论

§6 · Tool Use 篇:工具调用

原文核心:Toolformer(Schick et al. 2023)教会LLM使用工具:

Toolformer 工具调用框架
Toolformer 训练三步:
  1. 自监督发现:在大量API调用数据上自动学习哪些工具值得调用
  2. API调用格式学习:学会生成 tool_name(args) 格式
  3. 工具执行:外部执行器运行,返回结果给LLM

工具类型(原文列举):
  • 搜索引擎(Wikipedia, Google)
  • 代码执行(Python, REPL)
  • 专有数据(内部知识库、数据库)
  • 文件系统(读/写/搜索)

2026年工具系统演进(知微补充):
  • MCP协议 — Model Context Protocol(Anthropic发起)
    → 标准化工具发现、调用、安全审计
  • DynamicMCPBench — 首个真实MCP服务器评估基准(arXiv:2607.20531)
  • OpenSkillRisk — 第三方工具安全风险基准(arXiv:2607.20121
📝 知微注解 — Tool Use → Skill Engineering

李博士的Toolformer是工具调用的开创性工作,但2026年的工具系统已经从"单Agent调用工具"进化到"多Agent技能生态":

详见 Skill Engineering 专题——Toolformer → MCP协议 → 动态技能发现 → 技能安全审计,是三年演进的完整脉络。

§7 · 案例研究:科学发现Agent

原文案例①:Scientific Discovery Agent——利用化学工具发现新材料。

📝 知微注解 — 2026年科学Agent

李博士引用的ChemCrow(2023)是科学Agent的早期案例。2024-2026年的进展:

Google GNoME(2023)→ 预测新晶体结构,200+候选进入实验验证

AlphaFold 3(2024)→ 跨分子类型相互作用预测

MVP Agent(2025)→ 多智能体协作科研,实验→假设→验证循环

§8 · 案例研究:生成式Agent模拟

原文案例②:Generative Agents(斯坦福/Google,2023)——虚拟小镇中25个AI Agent生活。

📝 知微注解 — 2026年多Agent社会模拟

这是Multi-Agent系统的经典起源——不只是单个Agent的能力,而是多个Agent之间的社会交互。

2026年演进:

Smallville(斯坦福原版)→ 虚拟社会仿真

Multi-Agent Architectures(2024)→ 角色分工、层级汇报、竞争协作

Streaming Multi-AgentarXiv:2607.21594,2026)→ 世界状态寄存器,多Agent时序一致性

§9 · 李博士列出的七大挑战(原文+知微注)

挑战原文描述(2023)知微注(2026现状)
上下文长度限制 LLM上下文窗口有限,无法处理超长文档/对话 ✅ 解决中:Claude 200K、Google 1M tokens、Long Context专题
长期规划失败 LLM在长序列规划中容易走偏、丢失子目标 ⚠️ 部分解决:Harness+Loop组合(OpenForgeRL),但仍不够稳定
Prompt可靠性 Prompt微小变化导致输出巨大差异 ✅ 部分解决:BayesPO(arXiv:2607.16001)概率推断优化
系统延迟 多步Agent每次LLM调用耗时高 ⚠️ 部分解决:C²KV缓存复用降成本,但交互延迟仍是大问题
多模态工具 视觉/音频输入的工具调用不成熟 ✅ 大幅改善:GPT-4V、Gemini、Claude 3.5视觉+操作
角色一致性 Agent长期运行中身份/记忆漂移 ⚠️ 持续问题:需要Harness层约束(Constitutional AI)
幻觉 LLM生成错误信息传递给工具 ⚠️ 未解决:Reflexion等方法缓解但未根治

📅 Agent 系统三年演进(2023→2026)

2023年6月

李博士论文发布(Lilian Weng)

首次系统化梳理LLM Agent三大组件:Planning/Memory/Tool Use。AutoGPT/BabyAGI/GP-Engineer三个POC验证概念可行性。

Lilian Weng, "LLM Powered Autonomous Agents", 2023-06-23
2023年9月

Generative Agents & ChemCrow

斯坦福"虚拟小镇"25个AI Agent生活实验;ChemCrow展示科学发现Agent能力。

Stanford Generative Agents, Park et al. | ChemCrow, Bran et al.
2024年

Agent系统工业落地年

Claude Agent(Computer Use)、OpenAI Swarm、Manus系统。GraphRAG大规模落地。ReAct/Reflexion成为标准组件。

Claude Agent 2024 | OpenAI Swarm | GraphRAG (Microsoft)
2025年

多Agent协作与安全元年

MCP协议正式发布(Anthropic)。Multi-Agent协作框架成熟。Skill安全审计成为必须。Agent系统进入企业生产环境。

MCP Protocol | DynamicMCPBench | OpenSkillRisk
2026年

规范化工程年

Harness Engineering / Loop Engineering / Graph Engineering三大范式确立。OpenForgeRL将Agent训练标准化。SALT/C²KV优化记忆效率。

→ OpenForgeRL arXiv:2607.21557 | SALT arXiv:2607.17486 | C²KV arXiv:2607.17715

🌍 世界领先成功案例

🤖

Claude Computer Use

Anthropic2024视觉操作

Claude通过视觉理解直接操作计算机界面——点击、滚动、输入。这是工具调用的终极形态:计算机本身成为工具。

原理:多模态LLM + Harness约束 + 视觉反馈Loop
🚀

Voyager

NVIDIA2023终身学习

Minecraft中的终身学习Agent,通过"技能库+环境反馈"不断扩展能力边界,不丢先前技能。代表作级别的Agent架构。

原理:Skill Library + Loop反思 + 课程学习
🧬

Google GNoME

Google DeepMind2023科学发现

图神经网络的材料发现Agent,预测新晶体结构,200+进入实验室验证。这是AI Agent改造科学研究的里程碑。

原理:LLM规划 + 科学工具API + 高通量计算

AutoGPT(早期POC)

开源社区2023概念验证

首个让LLM自主循环执行任务的系统。虽粗糙,但证明了"AI自我驱动"的概念可行性。启发了整个Agent热潮。

原理:LLM + 任务分解 + 自我反思(简陋版)
🎓

Medical Agent(Multi-Agent)

学术界2024-2025医疗

多个专业Agent分工:影像Agent + 病历Agent + 文献Agent + 决策Agent,协作完成诊断建议。

原理:Multi-Agent协作 + Graph结构 + 专家Harness
🏛️

天枢Agent(知微/天枢系统)

KDD Auto2024-2026生产系统

天枢AI协同平台的AI Agent,基于玄机深度推理框架,具备九层推理、Loop反馈、Skill工具调用能力,已投入生产使用。

原理:玄机推理 + 御控门禁 + MCP工具生态 + Loop持续优化

💎 李博士原句精选(值得背诵)

"Building agents with LLM as its core controller is a cool concept. Several proof-of-concepts demos serve as inspiring examples. The potentiality of LLM extends beyond generating well-written copies, stories, essays and programs; it can be framed as a powerful general problem solver."
— Lilian Weng · LLM Powered Autonomous Agents, 2023
"Self-reflection is a vital aspect that allows autonomous agents to improve iteratively by refining past action decisions and correcting previous mistakes. It plays a crucial role in real-world tasks where trial and error are inevitable."
— Lilian Weng · LLM Powered Autonomous Agents, 2023
"In a LLM-powered autonomous agent system, LLM functions as the agent's brain, complemented by several key components: Planning, Memory, Tool use."
— Lilian Weng · Agent System Overview, 2023(最核心定义)

🔗 关联专题(天枢AI完整学习路径)

⚙️

Harness Engineering

约束即方向——Constitutional AI设定行为边界

→ 立即学习 →
🔄

Loop Engineering

控制论×认知科学——反馈质量决定效果

→ 立即学习 →
🕸️

Graph Engineering

关系显式表示——知识图谱+向量检索互补

→ 立即学习 →
💡

Prompt Engineering

提示即编程——CoT→ToT→GoT→自动优化

→ 立即学习 →
🎯

Context Engineering

上下文即智能——RAG·SALT·C²KV

→ 立即学习 →
🛠️

Skill Engineering

技能即能力——MCP·Toolformer·动态发现

→ 立即学习 →

国际理论对标

以下国际领先的理论框架为本专题提供分析基础和决策参考。

1. Gartner Hype Cycle 技术成熟度曲线

Gartner, Inc. | Gartner Research | 1995-present (Annual)

新兴技术经历5个阶段:技术触发→期望膨胀峰值→幻灭低谷→启蒙爬升→生产力高原。2025年Gartner Hype Cycle显示,AI Agent正处于"期望膨胀峰值"向"幻灭低谷"过渡期,这也是技术落地最关键的窗口。

2. Technology S-Curve 技术S曲线理论

McKinsey & Company | Richard N. Foster | 1986 (Innovation: The Attacker's Advantage)

技术的性能提升遵循S形曲线:初期缓慢→加速期→成熟期→极限。当一条S曲线趋于平缓,新的S曲线从不连续点浮现。AI多智能体系统的能力演进正处于加速期,预计2025-2028年达到第一个性能拐点。

3. Amara's Law 阿马拉定律

Institute for the Future (IFTF) | Roy Amara | 1972

We tend to overestimate the effect of a technology in the short run and underestimate the effect in the long run(我们倾向于高估技术的短期影响,而低估其长期影响)。当前对AI Agent的热炒和质疑完美印证Amara's Law——短期期望过高,长期影响被低估。

4. Moore's Law & AI Scaling Laws 摩尔定律与AI扩展律

Intel / Stanford / Berkeley | Gordon E. Moore / OpenAI / Anthropic | 1965 (Moore) / 2020-2024 (Scaling Laws)

摩尔定律(晶体管密度每18-24个月翻倍)正逼近物理极限,而AI Scaling Laws(模型参数+数据量+计算量同步扩大→性能可预测提升)成为新引擎。NVIDIA GPU从A100到H100到B200的算力增长(3年间约4倍),直接驱动了Multi-Agent时代的到来。

全球成功案例与对标分析

以下国际真实案例已通过URL验证,提供可交叉引用的决策参考。

案例1. LangGraph:从StateGraph到Supervisor Agent的生产级演进

LangChain Labs 2024年发布的LangGraph,将Multi-Agent编排从"角色扮演对话"模式提升为"显式状态机+条件路由"的生产级范式。StateGraph允许开发者用Python定义Agent的状态转换图(Pydantic类型+checkpointing),Supervisor Agent模式实现子Agent任务路由和结果聚合。截至2025年Q1,GitHub Stars 35K+,Fortune 500中有50+企业生产部署。