Ray
用于扩展 Python 工作负载的分布式执行框架。
概览
Ray 将普通的 Python 函数和类转变为分布式任务和 actor，并由一个负责放置、故障处理和状态的调度器进行管理。它解决了这样一个问题：若要将训练或推理作业扩展到多台机器上，否则就必须围绕集群 API 重写代码。它作为多个训练和服务系统所构建于其上的基础层而存在，这正是它出现在这些系统之下而非与之并列的原因。
技术图谱
Ray 如何与技术栈的其他部分相连。
应用于
- Inference concept Infrastructure Ray used for Inference High ✓ source
- Pretraining technique Techniques Ray used for Pretraining High ✓ source
工具
实现或集成 Ray 的软件。