在 SageMaker HyperPod 上使用 Ray 需要哪些前提条件?
需要 SageMaker HyperPod EKS 集群,并安装 SageMaker Spaces EKS add-on、HyperPod Observability EKS add-on、KubeRay operator 和 HyperPod Ray Endpoint Operator,同时需要一个 SageMaker Studio domain。
(翻译)在 SageMaker HyperPod 上推出新的 Ray 功能
Amazon SageMaker HyperPod now offers managed Ray support on Amazon EKS. Create and monitor Ray clusters, connect JupyterLab and Code Editor notebooks to live clusters, get out-of-the-box observability, and run resilient distributed training and accelerated inference from SageMaker Studio, all with o
AWS 宣布 SageMaker HyperPod 新增对 Ray 的托管支持。数据科学家可以在 SageMaker Studio 中直接创建、管理 Ray 集群,打开 Ray Dashboard 和 Grafana 仪表盘,连接 JupyterLab 或 Code Editor 交互式开发,并通过 HyperPod 节点健康监控、分层检查点等机制实现容错的分布式训练和推理。
需要 SageMaker HyperPod EKS 集群,并安装 SageMaker Spaces EKS add-on、HyperPod Observability EKS add-on、KubeRay operator 和 HyperPod Ray Endpoint Operator,同时需要一个 SageMaker Studio domain。
在 SageMaker Studio 中创建 HyperPod JupyterLab 或 Code Editor 空间时选择要连接的 Ray 集群,空间重启后调用 ray.init(address="auto") 即可获得原生 Ray driver 访问。
HyperPod Observability EKS add-on 会自动发现 Ray head 和 worker 节点、采集指标,并在 Amazon Managed Grafana 中预置 Ray Core、Ray Data、Ray Train、Ray Serve 四个仪表盘,无需手动导入 JSON 或配置监控目标。