🏛️ AI Engineering

Harness Engineering

约束工程——通过精心设计的Prompt约束、输出格式限制和行为边界,让AI系统在其能力范围内稳定、可预测地运行。

📅 2026-07-26 ⏱️ 阅读约18分钟 🏷️ AI Engineering / Prompt Engineering

🔍 天眼查权威核验 数据来源: 天眼查(tianyancha.com)· tyc-verified 2026-08-25

工商登记信息

以下数据由天眼查工商数据库实时核验,补充专题页已有的公开信息,确保主体真实性。

项目内容
统一社会信用代码91310104MAG1QGRR58
法定代表人张华宇
注册资本113.3334万人民币
实缴资本65.1667万人民币
成立日期2025-10-29
经营状态存续
企业类型有限责任公司(自然人投资或控股)
行业软件和信息技术服务业
注册地址上海市徐汇区龙兰路188号1幢8层805室(实际楼层7层)
核准日期2026-07-01

🏛 主要股东(天眼查)

股东名称持股比例认缴出资
张华宇41.9117%47.5万元人民币
孙昊33.75%38.25万元人民币
徐益敏12.5735%14.25万元人民币
嘉美食品包装(滁州)股份有限公司8.8235%10万元人民币
上海秒思未来企业管理合伙企业(有限合伙)2.353%2.6667万元人民币
深度传媒集团有限公司0.5883%0.6667万元人民币

⚠ 天眼风险总览

  • [警示] 对外担保:该公司的股东嘉美食品包装(滁州)股份有限公司有对外担保信息(关联: 嘉美食品包装(滁州)股份有限公司)
  • [警示] 开庭公告:该公司的股东青岛深度传媒有限公司起诉他人或公司的开庭公告(关联: 青岛深度传媒有限公司、嘉美食品包装(滁州)股份有限公司、深度传媒集团有限公司)
  • [警示] 裁判文书:该公司的股东青岛深度传媒有限公司曾因服务合同纠纷而起诉他人或公司(关联: 青岛深度传媒有限公司、嘉美食品包装(滁州)股份有限公司)
  • [警示] 立案信息:该公司的股东嘉美食品包装(滁州)股份有限公司被起诉的立案信息(关联: 嘉美食品包装(滁州)股份有限公司、青岛深度传媒有限公司)
  • [警示] 动产抵押:该公司的股东嘉美食品包装(滁州)股份有限公司有动产处于抵押状态(关联: 嘉美食品包装(滁州)股份有限公司)

数据说明

数据来源:天眼查(tianyancha.com)工商公示数据,查询时间 2026-08-25。专题页原有内容(招股书/新闻/调研)不受影响,本卡仅补充权威工商核验维度。若与本页其他来源冲突,以天眼查工商登记为准。

Chapter 01

核心原理

Harness(约束)的本质是「在能力边界内工作」——不是限制AI,而是引导它在正确的方向上发挥最大价值。

⭐ 核心洞察

Harness = Capability × Constraint × Context

约束工程不是对AI能力的削弱,而是在三个维度上做精细化调配: Capability(能力适配) 选择最适合任务的模型; Constraint(边界约束) 明确输入输出格式、安全边界; Context(上下文引导) 通过示例和提示词框架塑造输出模式。

🎯

能力边界感知

优秀的Harness设计者深知:LLM是一个「在不确定中生成确定性」的系统。它擅长类比、推理、创作,但面对精确计算、实时信息、长程依赖时有固有局限。约束工程的第一步是「认清边界」。

🛡️

安全护栏设计

约束也是安全网。Harness通过内容过滤、敏感词检测、输出长度限制等机制,防止模型在开放域中「脱缰」。这在企业级应用中尤为关键——金融、医疗、法律领域的AI必须「有所为有所不为」。

📐

格式契约约定

JSON Schema、XML结构、Mermaid图表……当AI需要与程序化系统交互时,输出格式的精确性直接决定可用性。Harness通过示例工程(Example Engineering)让AI「学会」输出目标格式。

🔄

迭代式约束精调

约束不是一次性设计,而是通过A/B测试、输出分析、错误归类不断迭代优化的过程。Anthropic的 Constitutional AI 就是典型——通过AI自评+人类反馈循环,持续收紧有害输出边界。

"The constraints we impose on AI systems are not limitations — they are the architecture of trust. Every prompt engineering decision is ultimately a safety decision."

Anthropic — Claude模型Prompt工程最佳实践
Chapter 02

方法论:6种约束类型

约束工程不是单一技术,而是一套系统化的「约束类型学」——每种约束解决不同层面的问题。

📝

1. Prompt约束

通过指令明确「做什么」和「不做什么」。包括角色设定、任务描述、输出格式、边界声明。CoT(Chain of Thought)推理链也是一类——它约束AI展示思考过程而非直接给答案。

🔗

2. Schema约束

JSON Schema、Zod Validation、XML DTD等结构化约束。定义精确的输出格式、字段类型、枚举值、可选/必填。这让AI输出可直接被程序消费,无需二次解析。

🔒

3. 安全约束

PPL(Perplexity Labs)安全过滤、关键词黑名单、主题拒绝、越狱防御。Anthropic的「无害化约束」通过RLHF+Constitutional AI双轨实现——AI被训练成「主动拒绝」而非「被动过滤」。

📊

4. 质量约束

最低质量阈值、评分卡(Scorecard)、多维度评估。约束AI输出必须达到预设质量线——如「引用必须带URL」、「代码必须通过lint检查」。这是一种「门禁式约束」。

⏱️

5. 资源约束

Token数量限制(max_tokens)、调用频率限制、计算预算、上下文窗口管理。防止AI「话痨」或陷入无限循环。这是系统层面的约束——在模型能力之外做保护。

🔗

6. 工具约束

Function Calling / Tool Use 约束。OpenAI的function calling本质上是一种「接口契约」——AI只能调用预定义的工具,参数必须符合schema。这是让AI融入软件栈的关键机制。

实现示例:Function Calling 约束

// OpenAI Function Calling 约束示例
const functions = [
  {
    name: 'get_weather',
    description: '查询城市天气',
    parameters: {
      type: 'object',
      properties: {
        city: {
          type: 'string',
          description: '城市名称',
          enum: ['北京', '上海', '深圳', '杭州']  // 枚举约束!
        },
        unit: {
          type: 'string',
          enum: ['celsius', 'fahrenheit']
        }
      },
      required: ['city']  // 必填约束
    }
  }
];

// AI只能调用get_weather,且参数受schema约束
const response = await openai.chat.completions.create({
  model: 'gpt-4-turbo',
  messages: [{ role: 'user', content: '今天上海热吗?' }],
  tools: functions,
  tool_choice: 'auto'
});
Chapter 03

成功案例分析

从顶级实验室的开源框架到商业产品,Harness工程已在多个场景验证其有效性。

AutoGen

Microsoft AutoGen

AutoGen的Multi-Agent框架通过「对话约束」实现Agent协作。每个Agent有明确角色(User/Assistant/GroupChatManager),消息格式受限制流转,终止条件可配置。这让多Agent系统的行为变得可预测。

  • 对话协议约束 Agent间消息必须符合预定义格式
  • 终止条件约束 GroupChat可配置最大轮数或共识达成条件
  • 工具调用约束 统一Tool Call接口,参数schema化
Multi-Agent 对话协议 Microsoft
CrewAI

CrewAI Agents

CrewAI将Multi-Agent系统建模为「剧组」——Agents是演员,Tasks是剧本,Process是导演流程。Harness体现在:每个Agent有role/goal/backstory三约束,Task有description/expected_output约束。

  • 角色约束 backstory定义Agent背景,约束其视角
  • 输出约束 expected_output定义Task完成的验收标准
  • 流程约束 Sequential/Hierarchical两种流程模式
角色扮演 流程编排 开源
Anthropic

Claude 3.5 Haiku

Anthropic的Harness体现在三个层面:System Prompt(角色/边界)、Constitutional AI(价值观约束)、RLHF(偏好约束)。通过三级约束,Claude在保持创造力的同时实现「对齐」。

  • System Prompt约束 可定制的角色模板和行为边界
  • Constitutional AI AI自评+原则约束,减少人工标注
  • 输出长度约束 通过max_tokens精确控制响应长度
对齐 RLHF 安全
OpenAI

GPTs / GPT Builder

OpenAI的GPTs是Harness工程的商业化典范。用户通过自然语言配置Instructions(=Prompt约束)、Actions(=Tool约束)、Knowledge(=Context约束),无需编码即可创建专属AI应用。

  • Instructions约束 自然语言定义AI行为边界
  • Actions约束 OpenAPI Schema定义可调用接口
  • Conversation starters 预设问题引导用户提问方向
无代码 生态 商业化
NVIDIA

NeMo Guardrails ⭐6,793

NVIDIA开源的企业级LLM安全护栏工具包,通过Colang语言定义对话行为约束。GitHub ⭐6,793,Forks 788。支持主题限制、内容过滤、事实性检查,是企业级Harness工程的工业典范。

  • Colang DSL约束 领域特定语言定义对话流和安全边界
  • 三层护栏体系 输入过滤 → LLM生成 → 输出验证
  • RAG集成 与知识库联动,防止幻觉越界
安全护栏 企业级 NVIDIA
Chapter 03B

框架生态与真实指标

Harness Engineering相关框架的GitHub影响力与行业采用数据(2026年7月实测)。

框架 GitHub ⭐ Forks 组织 核心贡献
AutoGen 59,997 9,030 Microsoft Multi-Agent对话协作,GroupChat协议,GPT-4 Turbo集成
LangGraph 38,179 6,421 LangChain AI 状态机图框架,支持循环(ReAct),内置持久化和时间旅行
NeMo Guardrails 6,793 788 NVIDIA 企业级安全护栏,Colang DSL,三层输入/生成/输出过滤
GPT Researcher 28,648 3,867 assafelovic 自主研究Agent,并行爬虫+LLM分析,OpenAI/Claude双擎
smolagents 28,541 2,810 HuggingFace 轻量级Agent框架,工具调用统一接口,MCP协议支持
PurpleLlama 4,314 761 Meta LLM安全评估与改进工具集,对抗性测试套件
Chapter 04

关键论文与资源

从经典论文到工程实践,这些资源构成约束工程的完整知识体系。

Chapter 05

对知微系统的启发

Harness工程为知微系统的AI能力升级提供了具体的工程路径。

💡

情报采集Harness

为情报采集Agent设计「采集约束」:只采集白名单域名、频率限制(每源≤1req/5s)、质量门禁(评分<60分不入库)。通过Schema约束确保输出格式统一(title/url/description/tags/score五要素)。

💡

搜索响应Harness

为知识库问答设计「响应约束」:每条回答必须包含「来源URL」「置信度评分」「相关度排序」。通过Few-shot Examples让AI学会「不知道时说不知道」,而非幻觉填充。

💡

专题生成Harness

专题生成时约束输出结构:「原理→方法论→案例→资源→启发」五段式。通过Reference Constraint要求每个论点附上来源,降低幻觉风险。

💡

Agent协作Harness

多Agent分工时约束通信协议:每个Agent有明确角色定义(采集Agent/清洗Agent/生成Agent)、消息格式统一、终止条件可配置。防止Agent「越界」或陷入死循环。

国际理论对标

以下国际领先的理论框架为本专题提供分析基础和决策参考。

1. Gartner Hype Cycle 技术成熟度曲线

Gartner, Inc. | Gartner Research | 1995-present (Annual)

新兴技术经历5个阶段:技术触发→期望膨胀峰值→幻灭低谷→启蒙爬升→生产力高原。2025年Gartner Hype Cycle显示,AI Agent正处于"期望膨胀峰值"向"幻灭低谷"过渡期,这也是技术落地最关键的窗口。

2. Technology S-Curve 技术S曲线理论

McKinsey & Company | Richard N. Foster | 1986 (Innovation: The Attacker's Advantage)

技术的性能提升遵循S形曲线:初期缓慢→加速期→成熟期→极限。当一条S曲线趋于平缓,新的S曲线从不连续点浮现。AI多智能体系统的能力演进正处于加速期,预计2025-2028年达到第一个性能拐点。

3. Amara's Law 阿马拉定律

Institute for the Future (IFTF) | Roy Amara | 1972

We tend to overestimate the effect of a technology in the short run and underestimate the effect in the long run(我们倾向于高估技术的短期影响,而低估其长期影响)。当前对AI Agent的热炒和质疑完美印证Amara's Law——短期期望过高,长期影响被低估。

4. Moore's Law & AI Scaling Laws 摩尔定律与AI扩展律

Intel / Stanford / Berkeley | Gordon E. Moore / OpenAI / Anthropic | 1965 (Moore) / 2020-2024 (Scaling Laws)

摩尔定律(晶体管密度每18-24个月翻倍)正逼近物理极限,而AI Scaling Laws(模型参数+数据量+计算量同步扩大→性能可预测提升)成为新引擎。NVIDIA GPU从A100到H100到B200的算力增长(3年间约4倍),直接驱动了Multi-Agent时代的到来。