AWS Machine Learning Blog· Naomi Teng·· 3 小时前AI 评分25
Amazon Bedrock 为 Kimi K3 推出印度境内推理
Introducing India-based inference for Kimi K3 on Amazon Bedrock
AI 导读
Amazon Bedrock 新增 Kimi K3 的印度境内推理选项,通过 in.moonshotai.kimi-k3 推理配置文件让推理处理限定在孟买和海得拉巴区域,满足严格数据驻留要求。Kimi K3 是 Moonshot AI 的多模态开放权重模型,Ultrahuman 已在生产中使用,借助提示词缓存将 LLM 成本降低 80%、多轮对话速度提升 85%。
来源:AWS Machine Learning Blog · aws.amazon.com