Amazon Bedrock 为全部 Claude 模型支持结构化输出:JSON Schema 输出与严格工具调用
用约束解码在生成时就保证输出符合 schema,Bedrock 上调 Claude 不再需要自写解析和重试。
// 要点
- 在模型可用的地区,bedrock-runtime 与 bedrock-mantle 两个端点都支持全部 Anthropic Claude 模型的结构化输出。
- 两种机制:JSON Schema 输出格式控制回复结构,严格工具调用按 schema 校验工具参数。
- 支持批量推理;在 bedrock-runtime 上还支持跨区域推理,并能以类型化事件流式返回。
- 只输出 schema 定义的字段,可减少输出 token,降低大批量场景的推理成本。
开发者视角走 Bedrock 的团队终于能删掉那层「解析失败就重试」的胶水代码了。AI 云盘的文件元数据抽取正是这种场景,我会先把 schema 收紧到只留必需字段,再对比输出 token 和失败率;但约束解码只保证格式,不保证内容对,抽样校验不能省。