IBM ALTK-Evolve:不改权重、只往提示里加学来的规则,GPT-4.1 客服智能体在 τ²-bench 零售上 Pass^4 达到 67.5%
从智能体的成功和失败里提炼行为规则、写回系统提示,老模型也能在可靠性上超过榜单上的零售条目。
// 要点
- 用较老的非推理模型 GPT-4.1 和 τ²-bench 自带的 ReAct 框架,零售域 Pass^4(四次独立尝试全对)从 57.5% 升到 67.5%,高于 10 月 12 日榜单快照里的所有零售条目。
- 零售域平均准确率从 78.1% 升到 82.5%;航空域从 57.5% 升到 65.0%。
- 规则数量要按领域调:零售用全部 292 条最好;航空只保留 14 条高支持度规则时 Pass^4 最高,为 45%,全部 101 条时为 40%。
- 规则提炼和智能体使用同一个模型,不需要更新权重或人工标注。
开发者视角这和我在《在智能体系统中设计回退机制与人工确认:一份实践清单》里的思路一致:先把失败案例变成明确规则,比换更贵的模型划算。我会给每个上线的智能体留一份失败记录,定期提炼成规则写回提示,同时盯住 Pass^4 这类「每次都对」的指标,而不只看平均分。