AWS Machine Learning Blog· Ashvin Nihalani·· 4 天前AI 评分29
在 Amazon EKS 上结合 EFA 与 DeepEP 扩展 MoE 强化学习，吞吐量提升 40%
Scaling MoE reinforcement learning on Amazon EKS with EFA and DeepEP with 40% more throughput
AI 导读
AWS 提出在 Amazon EKS 上结合 EFA 与 DeepEP 的架构，加速 MoE 模型的大规模强化学习训练，吞吐量提升 40%。该方案针对 RLHF 与 GRPO 等流程中 rollout 生成与策略训练资源竞争、跨节点通信带宽受限等问题，由 DeepEP 优化 Expert Parallelism 的 all-to-all token 路由通信。
来源：AWS Machine Learning Blog · aws.amazon.com