GGUF: Flux Unchained
详情
下载文件
关于此版本
模型描述
[注意:解压下载文件以获取 GGUF。Civitai 不原生支持,因此采用此变通方法]
由 socalguitarist 提供的 FluxUnchained 的 GGUF 版本。模型调优的功劳归于他。我通过修改过的 此脚本 将其转换为 GGUF 格式。
可在 ComfyUI 中配合此 自定义节点 或 Forge UI 使用。
了解更多关于 Forge UI 对 GGUF 的支持,以及下载 VAE、clip_l 和 t5xxl 模型的途径,请参见:https://github.com/lllyasviel/stable-diffusion-webui-forge/discussions/1050
我应该下载哪个模型?
[当前情况:使用更新后的 Forge UI 和 Comfy UI(GGUF 节点),我可以在 11GB 显存的 1080ti 上运行 Q8_0 版本。]
选择适合您显存的版本。若模型能完全装入 GPU,额外的推理开销非常小。大小顺序为:Q4_0 < Q4_1 < Q5_0 < Q5_1 < Q8_0。
- Q4_0 和 Q4_1 可在 8GB 显存中运行
- Q5_0 和 Q5_1 可在 11GB 显存中运行
- 若您显存更大,可选择 Q8_0
注意:开启 CPU 卸载后,即使模型无法完全装入显存,您仍可运行它。
更新日志
V2: 我最初(v1)是从 fp8 检查点创建的。由于双重量化,它累积了更多误差,导致 v1 无法生成清晰图像。因此,v2 版本我手动合并了 bf16 Dev 检查点,再生成 GGUF 文件。此版本能生成更多细节,结果也清晰得多。
所有与 Flux.1 Dev 相关的许可条款均适用。
