Mistral AI·· 2026-01-22精选AI 评分70
Mistral AI 排查 vLLM 在 disaggregated serving 中的内存泄漏
Heaps do lie: debugging a memory leak in vLLM.
AI 导读
Mistral AI 在部署 Mistral Medium 3.1 的 disaggregated serving 时遭遇 vLLM 内存泄漏，通过 Heaptrack、pmap、BPFtrace 和 GDB 自动化定位到 UCX 的 mmap hook 机制。最终通过设置 UCX_MEM_MMAP_HOOK_MODE=none 解决，并在 vLLM 仓库合并了修复补丁。
推荐理由
原文展示了从用户态到内核态的系统级调试方法，为排查复杂依赖引发的内存泄漏提供了可复用的工程实践。
来源：Mistral AI · mistral.ai