Amazon Bedrock 为 Kimi K3 加上印度境内推理,处理只在孟买和海得拉巴区域进行
Moonshot AI 的开放权重模型在 Bedrock 上多了一个数据驻留选项,与原有的全球和美国推理并列。
// 要点
- Kimi K3 通过跨区域推理配置文件提供:global.moonshotai.kimi-k3 成本最低、覆盖最广,推荐大多数场景使用;in.moonshotai.kimi-k3 把处理限定在孟买和海得拉巴
- AWS 推荐这个模型使用 OpenAI 兼容接口,示例代码用 openai Python 库接入
- 示例读取一份扫描的印地语文件、抽取结构化数据,再用印英混杂语言回答追问,不需要单独的 OCR 或翻译服务
- 客户 Ultrahuman 称其助手每天在 Kimi K3 上处理超过 14,000 次对话,提示词缓存让 LLM 成本降低 80%,多轮对话快了 85%
开发者视角比印度本身更值得看的是这个模式:开放权重模型在大云上有了锁定区域的推理配置,这是受监管客户最先问的问题。有数据驻留要求的市场,在配置里显式指定地域配置文件,不要依赖全球默认;同时确认 SCP 放行了两个目标区域,否则调用失败时看起来会像模型出错。