跳到正文

#数据/训练

今日 0 条
9月26日周六
  1. AWS Machine Learning Blog29

    在 Amazon EKS 上结合 EFA 与 DeepEP 扩展 MoE 强化学习,吞吐量提升 40%

    AWS 提出在 Amazon EKS 上结合 EFA 与 DeepEP 的架构,加速 MoE 模型的大规模强化学习训练,吞吐量提升 40%。该方案针对 RLHF 与 GRPO 等流程中 rollout 生成与策略训练资源竞争、跨节点通信带宽受限等问题,由 DeepEP 优化 Expert Parallelism 的 all-to-all token 路由通信。

9月24日周四
8月21日周五
7月26日周日