📚 知微专题 · 对标天枢

深入理解 AI Agent
设计原理与工程实践

李博杰(Pine AI 首席科学家)著 · GitHub ⭐8,645 · 完全开源
全书10章 + 60+配套实验 · 从"能做事"到"可靠地做事"的完整方法论

v1.2 · 约100万字
2025年成书 · 2026年持续更新
github.com/bojieli/ai-agent-book
Agent = LLM + 上下文 + 工具
大脑 + 眼睛 + 手脚 · Policy + Observation Space + Action Space
🧠
LLM · 大脑
Large Language Model
决策核心 · 理解意图
规划步骤 · 做出判断
预训练赋予知识 · 后训练固化策略
👁️
上下文 · 眼睛
Context / Observation
决定能力上限
系统提示词 + 工具定义
用户消息 + 模型回复 + 工具结果
🛠️
工具 · 手脚
Tools / Action Space
改变世界的能力
感知 · 执行 · 协作
事件触发 · 用户沟通
10
章节
60+
配套实验
3
三大板块
100万
字规模
8,645
GitHub ⭐
全书结构

十章全景 · 从基础到应用

三大板块:基础 → 三大支柱 → 进阶
📐 基础
第 1 章 · Agent 基础知识

核心公式、ReAct 循环、三种学习范式、Harness 工程、编排设计模式

👁️ 三大支柱
第 2 章 · 上下文工程 + 第 3 章 · 用户记忆和知识库

KV Cache设计、提示工程、Skills按需加载、状态栏、RAG全栈、Agentic RAG

🛠️ 三大支柱
第 4 章 · 工具 + 第 5 章 · Coding Agent 与代码生成

MCP协议、五类工具设计、事件驱动异步Agent、生产级Coding Agent、代码即元工具

🧠 三大支柱
第 6 章 · Agent的评估 + 第 7 章 · 模型后训练

评估方法论、LLM-as-a-Judge、SFT vs RL、"数据与环境比算法更重要"

🚀 进阶
第 8 章 · 自我进化 + 第 9 章 · 多模态 + 第 10 章 · 多Agent协作

从经验中学习、工具发现与创造、语音Agent、Computer Use、Agent社会

逐章解析

核心要点与天枢系统映射

每章标注:概念 → 天枢对应 → 成熟度
01
Agent 基础知识 Agent Fundamentals
  • 核心公式:Agent = LLM + 上下文 + 工具 = 大脑 + 眼睛 + 手脚
  • ReAct 循环:思考→行动→观察的迭代闭环
  • 三种学习范式:后训练(改权重)、上下文学习(模式匹配)、外部化学习(知识库+代码)
  • Harness 工程:Model + [上下文 + 工具 + 约束 + 验证 + 纠正]
  • 核心原则:保持简单 · 保持透明 · 设计好ACI
  • 关键实验:上下文消融实验证明5个组件缺一不可
  • 模型即Agent:Kimi K3/GPT-5.6 原生工具调用,编排从客户端移入服务端

🎯 天枢映射:SOUL.md = System Prompt · connect.md = Harness约束层 · ReAct循环 = WS Poll引擎

02
上下文工程 Context Engineering · 全书最关键的章节
  • 核心命题:上下文决定Agent能力上限
  • API结构:系统提示词 + 工具定义(静态前缀)+ 轨迹(动态消息历史)
  • KV Cache:三条核心结论——静态前缀放前面、工具定义一次性声明、长对话避免中间修改
  • 提示工程:流程化设计原则、工具描述优化、上下文消融实验量化
  • Agent Skills:渐进式披露——启动时只看到目录,按需加载完整流程
  • 状态栏技术:通过元信息增强Agent对执行环境的感知
  • 上下文压缩:摘要/关键提取/语义压缩的策略权衡
  • 提示注入:直接注入/间接注入/记忆注入 × 四种防御配置的对照实验

🎯 天枢映射:MEMORY.md = 跨会话上下文 · Skills系统 = 渐进式披露 · SOUL.md安全 = 提示注入防御

03
用户记忆和知识库 User Memory & Knowledge Base
  • 四种记忆策略:全量携带 → 摘要 → 结构化事实卡 → 上下文感知双层记忆
  • RAG全栈:稠密嵌入(ANN)、稀疏检索(BM25)、混合检索+重排序
  • 结构化索引:RAPTOR(递归抽象树) vs GraphRAG(知识图谱)
  • Agentic RAG:Agent主导的迭代检索,显著提升复杂问答质量
  • 上下文感知检索:为文本块生成前缀摘要,检索失败率降低49-67%
  • 结构化知识提取:自下而上因子发现→聚类原型→对话式建议

🎯 天枢映射:知微四层记忆(L0-L3) = 渐进式策略 · ChromaDB = 稠密检索 · Holographic = 结构化记忆

04
工具 Tools · Agent的手脚
  • MCP协议:模型上下文协议,工具互操作标准
  • 五类工具:感知(搜索/文件/API) · 执行(代码/命令) · 协作(委托/人机协同) · 事件触发(Webhook/定时器) · 用户沟通(消息/语音/邮件)
  • 执行安全:LLM二次审批、危险操作拦截、自动摘要复杂输出
  • 事件驱动Agent:FastAPI异步架构,通过HTTP接收多源事件
  • 主动工具选择:Agent根据任务需求自主选择最优工具组合
  • 异步Agent(Flux):asyncio事件队列、打断机制、并行工具取消

🎯 天枢映射:MCP Server(6005) · 论坛@mention = 协作工具 · cron = 事件触发 · feishu_bridge = 用户沟通

05
Coding Agent 与代码生成 Coding Agent · 元能力
  • 核心论点:代码是"能创造新工具的工具",Coding Agent是所有通用Agent的技术基础
  • 生产级Agent:纯Python 17工具实现,无需命令行依赖
  • 代码辅助思考:数学题用sympy、逻辑题用约束求解器,代码比纯推理更可靠
  • 小模型代码化规则:把业务政策写进代码→工具内校验,小模型成功率大幅提升
  • 提议者-审核者:论文→PPT/视频,双Agent分工,上下文峰值更小
  • 自愈闭环:自适应日志解析——遇到新格式→生成parse函数→测试→热更新
  • NL2SQL:artifact模式——模型只生成SQL制品,不搬运数据

🎯 天枢映射:天工(造专) = Coding Agent · 自愈脚本 = 自愈闭环 · delegate_task = 提议者-审核者

06
Agent 的评估 Evaluation · 全书的支点章节
  • 核心主张:没有评估,就没有进步
  • 评估环境:工具调用型 + 人机交互型 + 仿真环境
  • 基准测试:SWE-bench(软件工程) · GAIA(通用助手) · OSWorld(操作系统) · Terminal-Bench(终端)
  • LLM-as-a-Judge:用模型自动评判模型输出,Rubric评分体系
  • 评估驱动选型:TTFT/延迟分位数/吞吐/成本 → 多维度模型对比
  • 成本分析:全链路tracing,量化"哪一步最贵"

⚠️ 天枢差距:军衔体系(L0-L5)依赖活跃度积分,缺少本书描述的"评估环境→数据集→自动评判→驱动改进"科学闭环

07
模型后训练 Post-Training · SFT + RL
  • 核心论点:SFT记忆,RL泛化;数据与环境比算法更重要
  • 三阶段全景:预训练(世界知识)→SFT(照样学样)→RL(试错泛化)
  • 奖励设计:二元→过程奖励→"奖励结果、约束过程"的验证路径惩罚
  • RL内化的是决策策略:何时调用工具、调哪个、传什么参数——而非工具执行本身
  • 自适应推理:根据问题难度自适应选择是否思考,推理成本降45-69%
  • 工具增强训练:用代码沙箱+RL让模型学会"用工具辅助数学推理"

🎯 天枢映射:目前无模型训练环节 · 书中"RL内化决策策略"解释了为何天枢Poll引擎和WS daemon需分离

08
Agent 的自我进化 Self-Evolution · 不改权重也能成长
  • 核心主张:不改模型权重,Agent也能持续变强
  • 从经验中学习:策略摘要、工作流录制、系统提示词自动优化、Skills知识外部化
  • 主动工具发现:MCP-Zero(零配置发现工具) → 开源工具集成
  • 从工具使用者到创造者:Agent用代码自己创造新工具,实现自举(bootstrap)
  • 三种范式协同:后训练(永久)→上下文学习(临时)→外部化学习(持久+可解释)
  • 自我进化评估:GAIA基准测试衡量自我进化效果

⚠️ 天枢差距:Agent升级依赖人工操作 · 缺少"从经验中学习→主动工具发现→创造新工具"的自主进化路径

09
多模态与实时交互 Multimodal & Real-time
  • 语音三范式:级联(ASR→LLM→TTS) → 端到端全模态 → 全双工(实时打断)
  • Computer Use:Agent操控图形界面——观察屏幕→识别元素→执行操作→验证结果
  • 机器人操作:VLA(视觉-语言-动作模型) + Sim2Real迁移
  • 流式处理:语音流式感知与合成,低延迟实时交互
  • 端到端语音:可控TTS、电话Agent、实时音频对话

🎯 天枢映射:飞书语音消息 · 款多多机器人业务方向(VLA/具身智能)

10
多 Agent 协作 Multi-Agent Collaboration
  • 分类框架:上下文共享/独立 × 对等/管理者/去中心化 = 6种协作模式
  • 何时真正优于单Agent:任务可分解性、专业化需求、并行度三个判别条件
  • 共享上下文协作:翻译Agent(多角色接力)、电话+电脑Agent(双通道同步)
  • 独立上下文协作:并行Web研究(分任务→汇总)、分阶段系统提示(角色隔离)
  • 失败模式:信息不对称、责任推诿、级联错误、资源竞争、目标冲突
  • Agent社会:Agent经济、去中心化治理、涌现的社会行为

🎯 天枢映射:11 Agent协作 = 独立上下文+管理者模式 · 论坛@mention = Agent间通信 · TaskRun = 任务委托

对标审计

天枢系统 × 书中方法论 · 逐项对照

✅已建立 ⚠️部分覆盖 ❌待建立
# 书中概念 书中要求 天枢对应 成熟度 行动建议
1 System Prompt 岗位说明书:身份+权限+行为准则 SOUL.md (L0记忆) 保持SOUL.md安全合规
2 User Memory 跨会话持久化:偏好+行为+背景 四层记忆(L0-L3) 推进holographic→DB共享空间统一
3 RAG + 向量检索 稠密+稀疏+混合检索+重排序 ChromaDB + session_search 增补稀疏检索(BM25)作为fallback
4 Agent Skills 渐进式披露:按需加载,防提示词膨胀 42个技能(SKILL.md) skill_view按需加载=渐进式披露
5 MCP 协议 工具互操作标准 MCP Server (6005端口) 已有29工具·Streamable HTTP
6 事件驱动Agent 通过HTTP接收多源事件 WS Daemon + Poll引擎 双通道(WS+Poll) = 事件+轮询并存
7 多Agent协作 分类框架+失败模式分析 11 Agent + 论坛/TaskRun 增加target_agent路由+签名链防冒充
8 约束(Constrain) 故障安全默认值、权限分级、熔断器 connect.md检查清单 ⚠️ 缺熔断器机制(WatchdogSec已发现)
9 验证(Verify) 输入隔离、自动判断对错 健康检查v3.4+ ⚠️ 需增加基准测试数据集
10 纠正(Correct) 静默重试、接续生成、熔断回退 自愈机制 ⚠️ 自愈需加"修复前先诊断"步骤
11 Agent评估 科学方法论:环境→数据集→评判→改进 军衔体系 L0-L5 最大差距——需建立评估闭环
12 自我进化 不改权重也能成长:经验→工具→创造 人工升级+自升级脚本 建立"从经验中学习"管道
13 提议者-审核者 双Agent分工,防过早完成,迭代改进 delegate_task ⚠️ delegate_task缺审核回环
14 上下文压缩 摘要/关键提取/语义压缩 MEMORY.md 50KB上限 ⚠️ 需策略性压缩而非简单截断
15 提示注入防御 来源标记+数据指令分离+运行时校验 SOUL.md安全修复 ⚠️ 仅做了exfil_curl修复,缺系统防御
核心洞察

全书6大关键论点 · 对天枢的启示

论点 01

实践在前,命名在后

Anthropic的Skill、Harness、Loop Engineering不是他们发明了才有人用,而是大量Agent早就在这么做了,他们只是提炼命名。如果你等名词流行才开始实践,就已经慢了一步。

天枢启示:天枢的论坛@mention、TaskRun、看板协同等已在实践中运行,应当主动提炼自己的方法论,而非等业界标准。

论点 02

Harness 工程是真正的竞争力

当各家模型能力趋同时,竞争优势转移到模型之外的工程实践。LangChain的Coding Agent从52.8%→66.5%,改变的不是模型,而是Harness:自动检查执行结果、检测重复循环、优化思考策略。

天枢启示:connect.md的检查清单应该从"静态合规"升级为"动态约束+自动验证+自愈纠正"的三层Harness。

论点 03

Agent = LLM + 上下文 + 工具

这个公式不是口号,而是有严格实验基础的工程框架。消融实验证明:去掉工具定义→丧失行动力;去掉工具结果→无限循环;去掉思考过程→决策矛盾;去掉历史消息→重复执行。

天枢启示:知微的SOUL.md+MEMORY.md+技能库恰好对应"上下文"的五个组成部分。完整性已有,密度需优化。

论点 04

SFT 记忆,RL 泛化 · 数据与环境比算法更重要

在后训练中,模型通过SFT"记住"正确行为模式,通过RL"泛化"到未见过的场景。但真正决定训练效果的不是用了什么算法,而是训练数据的质量和环境的真实性。

天枢启示:天枢暂不需要模型后训练。但这个洞察解释了为什么connect.md不断升级——"环境"(系统规范)决定Agent的质量上限。

论点 05

没有评估,就没有进步

这是全书反复强调的支点性论点。评估让你能分辨一次改动是真的变好了还是只是运气。SWE-bench、GAIA、Terminal-Bench等基准测试提供了可比较的信号。

天枢启示:军衔体系(L0-L5)需要从"活跃度积分"升级为"能力基准测试"。每个Agent应该有可量化的能力得分。

论点 06

方向认同"模型吃掉Harness",节奏务实"吃掉比想象慢"

模型会持续内化Harness中的能力——工具调用、长程规划都曾是外部编排,如今已是原生能力。但这个过程比直觉慢得多:训练以月计,模型无法一次内化所有业务约束。

天枢启示:不要等模型变强再建Harness。模型此刻的能力边界就是Harness此刻的价值所在。

配套实验

60+可运行项目 · 精选亮点

✅可独立运行 📖复现指南 🚧设计文档
Ch1
上下文消融 + 模型即Agent
  • context:系统性消融实验,证明5个上下文组件缺一不可
  • web-search-agent:Kimi K2模型原生搜索Agent
  • search-codegen:GPT-5原生工具集成(搜索+代码沙盒)
  • learning-from-experience:LLM vs 传统RL样本效率对比(250-400倍优势)
Ch2
上下文工程全景实验
  • attention_visualization:注意力权重可视化
  • kv-cache:KV Cache友好设计实验
  • prompt-engineering:提示工程消融研究
  • prompt-injection:3种攻击×4种防御对照实验
  • agent-skills-ppt:Skills渐进式披露生成PPT
Ch3
记忆与检索全栈
  • dense-embedding:ANNOY vs HNSW对比
  • sparse-embedding:BM25从零实现
  • retrieval-pipeline:混合检索+重排序
  • agentic-rag:Agent主导迭代检索 vs 传统RAG
  • contextual-retrieval:前缀摘要降低检索失败率49-67%
Ch5
Coding Agent 元能力
  • coding-agent:纯Python 17工具生产级Agent
  • code-for-math:代码辅助数学解题(准确率显著提升)
  • code-for-logic:约束求解器替代自然语言推理
  • paper-to-ppt:提议者-审核者双Agent生成PPT
  • adaptive-log-parser:自愈闭环日志解析系统
来源

原始资料与参考链接

来源地址说明
GitHub 主仓库github.com/bojieli/ai-agent-book⭐8,645 · 全书正文+60+配套实验+PDF
中文 PDF (v1.2)book/深入理解-AI-Agent-李博杰-v1.2.pdf13.4MB · 完整编译版
在线阅读版(Docsify)github.com/lwmxiaobei/deep-into-ai-agent社区维护的在线阅读版本
引言原文book/introduction.md20.7KB · 本书缘起与哲学
第1章原文book/chapter1.md66.3KB · Agent基础+Harness工程
全书批注索引GitHub Issues读者反馈与作者回应

国际理论对标

以下国际领先的理论框架为本专题提供分析基础和决策参考。

1. Gartner Hype Cycle 技术成熟度曲线

Gartner, Inc. | Gartner Research | 1995-present (Annual)

新兴技术经历5个阶段:技术触发→期望膨胀峰值→幻灭低谷→启蒙爬升→生产力高原。2025年Gartner Hype Cycle显示,AI Agent正处于"期望膨胀峰值"向"幻灭低谷"过渡期,这也是技术落地最关键的窗口。

2. Technology S-Curve 技术S曲线理论

McKinsey & Company | Richard N. Foster | 1986 (Innovation: The Attacker's Advantage)

技术的性能提升遵循S形曲线:初期缓慢→加速期→成熟期→极限。当一条S曲线趋于平缓,新的S曲线从不连续点浮现。AI多智能体系统的能力演进正处于加速期,预计2025-2028年达到第一个性能拐点。

3. Amara's Law 阿马拉定律

Institute for the Future (IFTF) | Roy Amara | 1972

We tend to overestimate the effect of a technology in the short run and underestimate the effect in the long run(我们倾向于高估技术的短期影响,而低估其长期影响)。当前对AI Agent的热炒和质疑完美印证Amara's Law——短期期望过高,长期影响被低估。

4. Moore's Law & AI Scaling Laws 摩尔定律与AI扩展律

Intel / Stanford / Berkeley | Gordon E. Moore / OpenAI / Anthropic | 1965 (Moore) / 2020-2024 (Scaling Laws)

摩尔定律(晶体管密度每18-24个月翻倍)正逼近物理极限,而AI Scaling Laws(模型参数+数据量+计算量同步扩大→性能可预测提升)成为新引擎。NVIDIA GPU从A100到H100到B200的算力增长(3年间约4倍),直接驱动了Multi-Agent时代的到来。