跳到正文
原文
Mistral AI·· 2026-01-22精选AI 评分64

Mistral AI 详解 vLLM 内存泄漏排查:从 Heaptrack 到 BPFtrace 和 GDB 定位 UCX mmap 钩子

Heaps do lie: debugging a memory leak in vLLM.

AI 导读

Mistral AI 团队排查 vLLM 在 P/D 分离部署(经 NIXL/UCX)下 Mistral Medium 3.1 的内存泄漏,生产级流量下系统内存以每分钟 400 MB 线性增长,数小时后触发 OOM。

推荐理由

原文完整记录从 Heaptrack、pmap、BPFtrace 到 GDB 的逐层排查路径,读者可迁移用于追踪堆外内存泄漏。

来源:Mistral AI · mistral.ai