📌 项目日期:2026年11月 | 数据来源:GitHub官方仓库 | 星数:716+
跑本地LLM的人都有这个困惑:任务管理器说"显存15GB已用",然后呢?被谁用了?模型权重?KV cache?浏览器?还是桌面合成器?为什么一部分显存跑到了系统内存?Scott Hanselman 的 gputaskman 就是回答这些问题的:一个终端UI,把每进程的GPU内存与引擎活动和加载的运行时、模型文件、LLM缓冲构成关联起来——AI负载的显存终于有了"进程级账单"。
Scott Hanselman这次连发两弹:本工具+ sandbox-mcp(一次性Windows沙箱)。额度可视化的伴侣工具: CodeNotch、岛仔。
| 任务管理器说 | gputaskman回答 |
|---|---|
| 15GB显存已用 | 哪个进程、模型权重还是KV cache、还是你的浏览器 |
| 共享内存暴涨 | 为什么显存溢出到系统RAM |
| GPU忙碌 | 每个引擎的活动归属(推理/训练/图形) |
| 平台 | 支持 |
|---|---|
| Windows | NVIDIA + AMD |
| Linux/WSL | NVIDIA全覆盖;AMD限原生Linux |
| macOS | Apple Silicon |
| 范围 | 本地负载:推理/训练(含Unsloth)/图形/视频;不含云 |
Scott Hanselman出品的GPU版htop:不只是"15GB显存已用",而是回答"被谁用了——模型权重?KV cache?浏览器?桌面合成器?为什么这么多显存跑在系统内存里"。按进程拆解GPU内存与引擎活动,关联加载的运行时、模型文件和LLM缓冲构成。
Windows(NVIDIA/AMD)、Linux与WSL(NVIDIA全覆盖、AMD限原生Linux)、macOS Apple Silicon。范围是本地GPU负载:推理/训练/微调/图形/视频,不含云服务。
进程内存与引擎活动是实测;识别具体模型需要佐证——只有PyTorch/CUDA DLL不能断言在跑哪个模型或是否训练,映射文件也不算证明。