gputaskman教程:GPU版htop,显存被谁吃了终于看得见

📌 项目日期:2026年11月 | 数据来源:GitHub官方仓库 | 星数:716+

📋 项目简介

跑本地LLM的人都有这个困惑:任务管理器说"显存15GB已用",然后呢?被谁用了?模型权重?KV cache?浏览器?还是桌面合成器?为什么一部分显存跑到了系统内存?Scott Hanselman 的 gputaskman 就是回答这些问题的:一个终端UI,把每进程的GPU内存与引擎活动和加载的运行时、模型文件、LLM缓冲构成关联起来——AI负载的显存终于有了"进程级账单"。

Scott Hanselman这次连发两弹:本工具+ sandbox-mcp(一次性Windows沙箱)。额度可视化的伴侣工具: CodeNotch、岛仔。

🔧 回答什么问题

任务管理器说gputaskman回答
15GB显存已用哪个进程、模型权重还是KV cache、还是你的浏览器
共享内存暴涨为什么显存溢出到系统RAM
GPU忙碌每个引擎的活动归属(推理/训练/图形)

📦 平台与范围

平台支持
WindowsNVIDIA + AMD
Linux/WSLNVIDIA全覆盖;AMD限原生Linux
macOSApple Silicon
范围本地负载:推理/训练(含Unsloth)/图形/视频;不含云

✅ 使用建议

📚 常见问题

gputaskman是什么?

Scott Hanselman出品的GPU版htop:不只是"15GB显存已用",而是回答"被谁用了——模型权重?KV cache?浏览器?桌面合成器?为什么这么多显存跑在系统内存里"。按进程拆解GPU内存与引擎活动,关联加载的运行时、模型文件和LLM缓冲构成。

支持什么平台?

Windows(NVIDIA/AMD)、Linux与WSL(NVIDIA全覆盖、AMD限原生Linux)、macOS Apple Silicon。范围是本地GPU负载:推理/训练/微调/图形/视频,不含云服务。

识别能力边界?

进程内存与引擎活动是实测;识别具体模型需要佐证——只有PyTorch/CUDA DLL不能断言在跑哪个模型或是否训练,映射文件也不算证明。