研究 #智能体 2026-10-21 · 原文发布 10-20

IBM ALTK-Evolve:不改权重、只往提示里加学来的规则,GPT-4.1 客服智能体在 τ²-bench 零售上 Pass^4 达到 67.5%

从智能体的成功和失败里提炼行为规则、写回系统提示,老模型也能在可靠性上超过榜单上的零售条目。

一手来源 IBM Research(Hugging Face 博客) · huggingface.co 读原文 ↗

// 要点

  • 用较老的非推理模型 GPT-4.1 和 τ²-bench 自带的 ReAct 框架,零售域 Pass^4(四次独立尝试全对)从 57.5% 升到 67.5%,高于 10 月 12 日榜单快照里的所有零售条目。
  • 零售域平均准确率从 78.1% 升到 82.5%;航空域从 57.5% 升到 65.0%。
  • 规则数量要按领域调:零售用全部 292 条最好;航空只保留 14 条高支持度规则时 Pass^4 最高,为 45%,全部 101 条时为 40%。
  • 规则提炼和智能体使用同一个模型,不需要更新权重或人工标注。

开发者视角这和我在《在智能体系统中设计回退机制与人工确认:一份实践清单》里的思路一致:先把失败案例变成明确规则,比换更贵的模型划算。我会给每个上线的智能体留一份失败记录,定期提炼成规则写回提示,同时盯住 Pass^4 这类「每次都对」的指标,而不只看平均分。

// 来龙去脉 · 来自 #智能体 专题

看完整时间线 →
  1. 10-21 Mistral 发布 Voxtral 3 语音模型与语音智能体 SDK:4B 转写模型每分钟 0.0035 美元,TTS 每百万字符 13 美元
  2. 10-21 Amazon Bedrock 为全部 Claude 模型支持结构化输出:JSON Schema 输出与严格工具调用
  3. 10-20 Cloudflare 发布抽取模型 Clairic:一次前向计算直接输出类型化字段,只按输入 token 计费,在 Workers AI 预览