AWS Machine Learning Blog· Kanwaljit Khurmi·· 4 小时前精选AI 评分70
AWS 宣布为 SageMaker AI 训练和推理作业引入 SOCI 索引以加速启动
Announcing SOCI-indexed images for faster SageMaker AI jobs
AI 导读
AWS 宣布为 Amazon SageMaker AI 训练和推理作业引入 Seekable OCI (SOCI) 索引技术，实现容器镜像的懒加载。该功能将镜像下载时间从几分钟缩短至几秒，在基准测试中使 GPU 闲置时间减少高达 90%。用户可通过使用预索引的 AWS Deep Learning Container (DLC) 或为自定义镜像创建索引来启用此功能，且无需修改作业定义。
推荐理由
AWS 推出 SOCI 索引技术实现镜像懒加载，将 SageMaker 训练启动时间从分钟级降至秒级，显著降低 GPU 闲置成本。
来源：AWS Machine Learning Blog · aws.amazon.com