AWS Machine Learning Blog 发布于 08/25 03:32

Introducing new Ray capabilities on SageMaker HyperPod

(翻译)在 SageMaker HyperPod 上推出新的 Ray 功能

查看原文

资讯摘要

Amazon SageMaker HyperPod now offers managed Ray support on Amazon EKS. Create and monitor Ray clusters, connect JupyterLab and Code Editor notebooks to live clusters, get out-of-the-box observability, and run resilient distributed training and accelerated inference from SageMaker Studio, all with o

AI 摘要

AWS 宣布 SageMaker HyperPod 新增对 Ray 的托管支持。数据科学家可以在 SageMaker Studio 中直接创建、管理 Ray 集群,打开 Ray Dashboard 和 Grafana 仪表盘,连接 JupyterLab 或 Code Editor 交互式开发,并通过 HyperPod 节点健康监控、分层检查点等机制实现容错的分布式训练和推理。

AI 问答

在 SageMaker HyperPod 上使用 Ray 需要哪些前提条件?

需要 SageMaker HyperPod EKS 集群,并安装 SageMaker Spaces EKS add-on、HyperPod Observability EKS add-on、KubeRay operator 和 HyperPod Ray Endpoint Operator,同时需要一个 SageMaker Studio domain。

数据科学家如何将 JupyterLab 或 Code Editor 连接到 Ray 集群?

在 SageMaker Studio 中创建 HyperPod JupyterLab 或 Code Editor 空间时选择要连接的 Ray 集群,空间重启后调用 ray.init(address="auto") 即可获得原生 Ray driver 访问。

Ray 集群的可观测性如何开箱即用?

HyperPod Observability EKS add-on 会自动发现 Ray head 和 worker 节点、采集指标,并在 Amazon Managed Grafana 中预置 Ray Core、Ray Data、Ray Train、Ray Serve 四个仪表盘,无需手动导入 JSON 或配置监控目标。

打开原文