来源:AWS Machine Learning Blog 2026-06-16 20:16

在 Amazon SageMaker AI 中引入容器缓存以加快模型扩展速度

AI 扩展 Amazon SageMaker 容器
今天,我们很高兴地宣布用于 Amazon SageMaker AI 推理的容器图像缓存,这是我们更快的扩展优化之旅的下一个重大进展。这使得生成式 AI 模型在横向扩展事件期间的端到端延迟速度提高了 2 倍。

相关文章推荐

返回首页