跳到正文

#部署/工程

今日 0 条
9月29日周二
  1. MIT Technology Review · AI17

    让 AI 成为资产而非开支:企业如何经济地运营 AI

    当 AI 从实验走向生产,仅按 consumption 模式按次购买 token 会让支出难以预测。文章提出企业应寻找"交叉点":当需求稳定、可预测且规模够大时,自建并优化算力可能比逐次购买更经济,但收益取决于把产能持续用满。HPE 赞助内容建议企业按工作负载建模成本、用运营纪律提升利用率,让 AI 从开支变为资产。

  2. AWS Machine Learning Blog68

    Claude Sonnet 5.5 上线 Amazon Bedrock

    AWS 宣布 Claude Sonnet 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上可用,主打聚焦编码和知识工作,多数任务成本更低、速度更快。

    推荐理由:原文说明了 Sonnet 5.5 的能力变化、与 Opus 5.5 的分工方式,以及在 Amazon Bedrock 上的具体接入步骤。

9月28日周一
9月26日周六
  1. AWS Machine Learning Blog29

    在 Amazon EKS 上结合 EFA 与 DeepEP 扩展 MoE 强化学习,吞吐量提升 40%

    AWS 提出在 Amazon EKS 上结合 EFA 与 DeepEP 的架构,加速 MoE 模型的大规模强化学习训练,吞吐量提升 40%。该方案针对 RLHF 与 GRPO 等流程中 rollout 生成与策略训练资源竞争、跨节点通信带宽受限等问题,由 DeepEP 优化 Expert Parallelism 的 all-to-all token 路由通信。

9月24日周四
9月22日周二
9月17日周四
  1. GitHub Blog · AI & ML74

    GitHub 用 Copilot 将 Copilot 智能体运行时迁移至 80 万行 Rust

    GitHub 团队用 AI 智能体把 Copilot 智能体运行时从 TypeScript/Node.js 原地重写为 832,378 行生产 Rust,128 个 pull request 在约十四周半内增量合入并随主分支发布,8 月 21 日完成 100% Rust。

    推荐理由:作者亲述用 AI 智能体把 Copilot 运行时原地迁移到 Rust 的完整过程,迁移策略、会话数据和踩坑经验都可迁移到类似工程。

9月12日周六
7月29日周三
  1. Berkeley AI Research65

    从 CUDA 到 MLX:K-Search 将数十年内核优化经验迁移至 Apple Silicon

    IBM Research 基于 UC Berkeley Sky Lab 的 K-Search 演进式内核搜索框架,构建 MLX 后端和 CUDA-to-MLX 结构化翻译层,把现有 CUDA 内核知识迁移为 Apple Silicon 的高质量 Metal 内核。

    推荐理由:工作把 CUDA 积累的内核优化知识通过结构化翻译层迁移到 Apple Silicon,读者可看到方法细节和可复现路径。

7月26日周日
7月7日周二
3月13日周五