GGUF_K: Flux Unchained K_M Quants
详情
下载文件
模型描述
警告:尽管这些量化模型在 ComfyUI 中完美运行,但我尚未能让它们在 Forge UI 中工作。如果情况有变,请告知我。原始的非 K 量化模型可在此处找到 HERE ,这些模型已验证可在 Forge UI 中正常运行。
[注意:解压下载文件以获取 GGUF 文件。Civitai 原生不支持此格式,因此采用此变通方法]
由 socalguitarist 提供的 FluxUnchained 的 GGUF 版本。模型调优的功劳归于他。更具体地说,这些是该模型的 K (_M) 量化版本。K 量化通常在相同模型体积下提供更优的质量,且推理速度可能略有提升。非 K 量化版本可在此处找到:这里。
可在 ComfyUI 中使用此 自定义节点 运行该模型,但我未能使其在 Forge UI 中工作。
有关 Forge UI 对 GGUF 的支持详情,以及 VAE、clip_l 和 t5xxl 模型的下载位置,请参阅:https://github.com/lllyasviel/stable-diffusion-webui-forge/discussions/1050
我该下载哪个模型?
[当前情况:使用更新的 Comfy UI(GGUF 节点),我能在 11GB 的 1080ti 上运行所有这些量化版本。]
请选择适合您显存的模型。若模型能完全加载到 GPU 中,额外的推理开销非常小。尺寸顺序为:Q2 < Q3 < Q4 < Q5 < Q6。但除非绝对必要,不建议使用 Q2 和 Q3,因为它们容易导致文本和细部细节失真。
所有与 Flux.1 Dev 相关的许可证条款均适用。



