Mistral AI·2026-01-22 00:00· 2026-01-22精选AI 评分68

Mistral AI 如何定位并修复 vLLM 的内存泄漏

Heaps do lie: debugging a memory leak in vLLM.

AI 导读

Mistral AI 定位了 vLLM 在启用 graph compilation 和 NIXL 的 Prefill/Decode disaggregated serving 中出现的内存泄漏，根因是 UCX 的 mmap hook 机制导致匿名内存持续增长。

推荐理由

文章以真实的 vLLM 生产前测试故障为例，串联 Heaptrack、pmap、BPFtrace 和 GDB 的定位过程，并给出 UCX 配置层面的修复路径。

来源：Mistral AI · mistral.ai