产品简介
ComfyUI-MultiGPU 这是 ComfyUI 的显存优化插件，使用 DisTorch 技术将模型部分（如 UNet、CLIP）卸载到系统内存或其他 GPU，释放主 GPU 显存用于计算。支持 .safetensors 和 GGUF 模型，适合显存不足的 ComfyUI 用户运行更大模型或生成更高质量内容。
核心功能
- 一键虚拟显存设置，简化显存管理
- 支持 .safetensors 和 GGUF 模型的多 GPU 分布
- GGUF 推理速度比 DisTorch1 提升可达10%
- 深度集成 WanVideoWrapper，提供稳定多GPU支持
- 提供 bytes 和 ratio 两种智能分配模式，精确控制模型分布
快速开始
- 确保已安装 ComfyUI
- 在 ComfyUI-Manager 中搜索 'ComfyUI-MultiGPU' 并安装
- 或手动克隆仓库到 ComfyUI/custom_nodes/ 目录
- 在 ComfyUI 工作流中使用 MultiGPU 版本的加载器节点（如 UNETLoaderMultiGPU）
- 通过滑块或专家模式文本框调整虚拟显存分配
界面预览
与其他方案对比
| 对比项 | ComfyUI-MultiGPU | 同类方案 |
|---|---|---|
| GGUF 推理速度 | 使用 DisTorch2 技术，比 DisTorch1 快达10%，提供更快推理 | 传统方法或旧版插件速度较慢，可能无加速优化 |
| 显存管理灵活性 | 提供 bytes、ratio 等多种分配模式，精确控制模型在设备间的分布 | 可能只有基础卸载功能，配置选项有限或手动调整复杂 |
适合谁用
- 显存有限的 ComfyUI 用户，希望运行更大模型生成图像或视频
- 多 GPU 用户，需要优化模型负载分配以提高效率
- 使用 WanVideoWrapper 进行视频生成的创作者，寻求稳定多GPU支持
下载与版本
当前最新版本为 main，发布于 。支持 Windows、macOS、Linux。
⚠️ 注意：本项目仅提供源代码下载，不包含可直接运行的安装包（exe/dmg/apk 等。下载后需要自行编译构建才能使用，适合有一定开发经验的用户。如果你不熟悉编译流程，建议寻找同类开箱即用的替代方案。
注意事项
- 本工具仅供学习和研究使用，请遵守相关法律法规。
- 请尊重内容创作者版权，勿将下载内容用于商业或非法传播。
- 项目源码地址：https://github.com/pollockjj/ComfyUI-MultiGPU