在 SageMaker AI 上用 vLLM-Omni 构建实时语音应用(第一部分)
AWS 在 SageMaker AI 上通过 vLLM-Omni Deep Learning Container 部署 Qwen3-TTS,实现文本流入、音频流出的双向流式语音输出,语音可在生成完成前开始播放。
AWS 在 SageMaker AI 上通过 vLLM-Omni Deep Learning Container 部署 Qwen3-TTS,实现文本流入、音频流出的双向流式语音输出,语音可在生成完成前开始播放。
在 Amazon SageMaker AI 上部署同一个 AWS vLLM-Omni DLC 的两个端点:实时端点运行 FLUX.2-klein-4B 生成图像,异步端点运行 Wan2.1-VACE-1.3B 根据图像和 motion prompt 生成视频。
AWS 展示了基于 Amazon Nova Act 与 Amazon Bedrock AgentCore 的智能体驱动合成监控方案,用自然语言动作替代传统 Selenium/Playwright 的 DOM 选择器脚本,降低 UI 变化导致的脚本脆弱性。
AWS 提供一套 Amazon Textract adapter 生命周期管理方案,覆盖 Custom Queries adapter 跨账户晋升、生产安全配置和文档路由。
GitHub 官方教程介绍 GitHub Copilot app 的 canvases 功能,用户在 agent 会话中运行 /create-canvas 并用自然语言描述工作流,即可生成看板、发布清单等可共享的双向界面。canvas 支持人与 agent 同时操作、状态实时同步,还能保存为扩展供个人或团队复用;社区已通过 Awesome Copilot 分享了现成的 canvas 扩展。
AWS 提出在 Amazon EKS 上结合 EFA 与 DeepEP 的架构,加速 MoE 模型的大规模强化学习训练,吞吐量提升 40%。该方案针对 RLHF 与 GRPO 等流程中 rollout 生成与策略训练资源竞争、跨节点通信带宽受限等问题,由 DeepEP 优化 Expert Parallelism 的 all-to-all token 路由通信。
GitHub Copilot 团队作者认为聊天并非与 AI 交互的正确 UI,介绍了 app 内的 canvas 功能,它是能运行完整前后端应用、与智能体双向通信的定制界面。
推荐理由:作者以多个实例说明何时该让智能体生成定制界面而非反复对话,给出可迁移的工作流自动化思路。
GitHub Security Lab 的 Antonio Morales 发布 Fuzzing Taskflow,面向 C/C++ 项目的自主模糊测试流水线,只需给出 GitHub 仓库即可自动识别入口点、编写 harness、运行 AFL++、读覆盖率、改进 harness 并分诊崩溃、生成漏洞报告。
推荐理由:作者亲述用 LLM 智能体自动化 C/C++ 模糊测试全流程的设计取舍,覆盖覆盖率反馈循环和崩溃分诊等可借鉴的工程细节。
GitHub 工程团队重构了 GitHub Copilot 应用的 PR 视图,使其能流畅打开一个含 2,200 个文件、超过一百万行变更和 400 多条内联评论的开源 PR。
GitHub 团队用 AI 智能体把 Copilot 智能体运行时从 TypeScript/Node.js 原地重写为 832,378 行生产 Rust,128 个 pull request 在约十四周半内增量合入并随主分支发布,8 月 21 日完成 100% Rust。
推荐理由:作者亲述用 AI 智能体把 Copilot 运行时原地迁移到 Rust 的完整过程,迁移策略、会话数据和踩坑经验都可迁移到类似工程。
GitHub 日本与韩国营销负责人 Tomoko Tanaka 介绍如何不写代码,把活动运营交给 GitHub Copilot 执行:用 issue form 收集输入,event-setup 标签触发 GitHub Actions 自动建落地页、生成 UTM 链接、起草邀请邮件和更新项目板。
GitHub Copilot app 内置 diff、终端和浏览器三个面板,无需在编辑器、终端和浏览器之间切换即可完成 AI 编码的审查、运行和验证闭环。