Flux1-Dev FP8&NF4&GGUF 6 steps, Hybrid 4 steps : SVDQuant-int4-Flux.1-Dev : LORA models

此上传旨在展示使用公开可用的 svdq-int4_r32-flux.1-dev 所实现的高级图像生成技术。请注意，我并非原始创作者。

为 ComfyUI Portable 安装 Nunchaku（“幸存者”指南）

（用于使用 单文件 svdq-int4_r32-flux.1-dev.safetensors）

本指南基于真实故障排除过程，旨在使 ComfyUI-Nunchaku 与 ComfyUI 可移植版无缝协同工作。许多用户面临依赖项问题，本指南意在帮助这些“受流程影响”的用户。

免责声明：本指南非官方，系基于大量故障排除的社区驱动成果。在进行任何更改前，请始终备份您的文件。

为何需要本指南？ 官方 Nunchaku PyPI 发布版本可能已过时，直接安装可能导致依赖冲突，尤其是与 filterpy 和 PyTorch 版本之间。本指南聚焦于使用特定开发版本，以解决这些问题。

目标环境：

• ComfyUI Portable（内嵌 Python）

• Python 3.12

• PyTorch 2.7.1+cu128（或类似的 +cu12x 版本）

NVIDIA GPU 兼容性说明：NVIDIA 按架构而非严格的系列编号来划分 GPU 兼容性。

• INT4/FP4（如 Nunchaku 的量化）：通常更适合较新的架构，如 Ada Lovelace（RTX 40 系列）或 Hopper，因为它们具备专用的 INT4/FP4 硬件。

• Ampere（RTX 30 系列）：完全兼容 FP16，且在多数 Nunchaku 功能中表现良好。虽然可运行 INT4/FP4，但性能提升可能不如 Ada Lovelace 明显。

• 较老系列（如 RTX 20 系列或 GTX 16 系列）：INT4/FP4 等高级功能的兼容性可能有限甚至不存在，通常需要使用 FP32 或 FP16。

分步安装指南：

1. 关闭 ComfyUI：启动前确保 ComfyUI 应用程序完全关闭。

2. 打开内嵌 Python 的终端：在命令提示符或 PowerShell 中导航至 ComfyUI_windows_portable\python_embeded 目录。示例：cd E:\ComfyUI_windows_portable\python_embeded

3. 卸载有问题的旧依赖项：清理此前失败的尝试或冲突版本。
bash python.exe -m pip uninstall nunchaku insightface facexlib filterpy diffusers accelerate onnxruntime -y
（忽略未安装包的“Skipping”提示。）

4. 安装特定 Nunchaku 开发轮子：此步骤至关重要，因为这是一个预构建包，可绕过常见编译问题，且兼容 PyTorch 2.7 和 Python 3.12。
bash python.exe -m pip install https://github.com/mit-han-lab/nunchaku/releases/download/v0.3.1dev20250609/nunchaku-0.3.1.dev20250609+torch2.7-cp312-cp312-win_amd64.whl
（注意：win_amd64 指 64 位 Windows，而非 AMD CPU。在 64 位 Windows 系统上用于 Intel CPU 是正确的。）

5. 安装 facexlib：安装 Nunchaku 轮子后，某些可选节点（如 PuLID）的 facexlib 依赖项可能仍缺失，需直接安装。
bash python.exe -m pip install facexlib

6. 安装 insightface：insightface 是 Nunchaku 面部功能的另一关键依赖项，前几步可能未完全包含它。
bash python.exe -m pip install insightface

7. 安装 onnxruntime：insightface 依赖 onnxruntime 来运行 ONNX 模型，请确保已安装。
bash python.exe -m pip install onnxruntime

8. 验证安装：
* 关闭终端。
* 通过 E:\ComfyUI_windows_portable\ 目录下的 run_nvidia_gpu.bat 或 run_nvidia_gpu_fast_fp16_accumulation.bat（或您常用的启动脚本）启动 ComfyUI。
* **检查控制台输出**：启动时不应出现与 Nunchaku 或其依赖项相关的 ModuleNotFoundError 或 ImportError 消息。
* **检查 ComfyUI 界面**：在 ComfyUI 界面中点击“Add Nodes”，确认所有 Nunchaku 节点（包括 NunchakuPulidApply 和 NunchakuPulidLoader）均可见并可添加至工作流。您应看到 9 个 Nunchaku 节点。

重要提示：

• ComfyUI-Nunchaku 现已内置 Nunchaku wheel installer 节点，未来可简化 Nunchaku 的更新与维护。

• 示例工作流可在 E:\ComfyUI_windows_portable\ComfyUI\custom_nodes\ComfyUI-nunchaku\ 目录下的 workflows_examples 文件夹中找到。这些 JSON 文件可直接加载至 ComfyUI，以演示如何使用 Nunchaku 节点。

• 虽然存在如 xformers 等性能优化方案，但其严格版本依赖和可能的“回滚”需求有时会增加安装复杂性。对多数用户而言，上述步骤已足以让 Nunchaku 完全正常运行。

svdq-int4_r32-flux.1-dev 版本因其将 int4 与 BF16（Bfloat16）层合并为单文件，通常被认为“更优”，尤其在“角色”生成方面。

以下是其重要性的分析：

• INT4（4位整数）：这是一种高度压缩的数据类型，主要优势是显著降低内存占用并加快计算速度，特别是在推理阶段（仅生成图像，而非训练模型）。这意味着模型可在显存较小的 GPU 上运行，或支持更大的图像尺寸/批次大小。虽然极端压缩会引入一定程度的“质量损失”，但通常经过优化，对多数应用影响极小。

• BF16（Bfloat16）：这是一种 16 位浮点格式，在精度与数值范围间取得良好平衡。常用于深度学习训练，因其有助于维持数值稳定性，防止如 FP16 等其他低精度格式可能出现的溢出或下溢问题。BF16 通常比 INT4 提供更高的精度。

为何单文件结合两者更优，尤其对角色生成？

当 int4 与 BF16 合并为单文件时，通常意味着采用“混合精度”策略，即充分利用两种数据类型的优点：

1. 效率：int4 层可能用于对精度要求不高的部分，大幅降低内存占用并加速运算。

2. 关键部分的质量：BF16 层可能用于对精度敏感的部位，如生成细致且一致的角色关键元素（面部特征、手部等），确保即使整体压缩，核心部分仍保持高质量。

3. 无缝集成：单文件结构表明不同精度层间的集成与过渡经过优化，相比分离文件或粗糙的混合精度实现，能带来更优的整体性能与输出质量。

4. 角色生成的整体提升：通过智能地将 int4 用于效率、BF16 用于关键部分，该模型可在保持高效的同时，渲染出更具细节与准确性的角色，实现更锐利的特征、更一致的解剖结构和更佳的艺术质量。

总而言之，新版本通过这种优化的混合精度策略，在模型大小、速度与输出质量之间实现了更好平衡，尤其显著提升了角色生成效果。