更新于 2026/05/20 23:59
SageMaker 推理端点原生支持 OpenAI 兼容 API,免去 SigV4 封装
Amazon SageMaker AI 为实时推理端点新增 OpenAI 兼容 API 支持。用户只需修改 endpoint URL,即可用 OpenAI SDK、LangChain 或 Strands Agents 直接调用 SageMaker 上的模型,无需自定义客户端或 SigV4 签名包装。
此前调用 SageMaker 端点需通过 boto3 构造 SigV4 签名请求,或使用 SageMaker 专有 SDK,与主流 LLM 生态工具链存在适配断层。本次更新让 SageMaker 端点暴露标准 OpenAI 接口,开发者可零代码改动接入现有 Agent 和 RAG 管线。
对工程团队而言,这意味着 AWS 上的模型部署可直接挂入 OpenAI 兼容的推理路由层,降低多云推理网关的维护成本。但需注意该能力仅限实时推理端点,批量推理暂不支持。
速读
SageMaker 端点原生暴露 OpenAI 兼容 API,免去 SigV4 封装
相关源 (1)
- AWS ML Blog · 2026/5/20 23:59:57https://aws.amazon.com/blogs/machine-learning/announcing-openai-compatible-api-support-for-amazon-sagemaker-ai-endpoints/