Flux Blockwise NF4 (Full Checkpoint - 22GB)

详情

模型描述

分块 NF4(完整检查点 - 22GB)

  • 在 Forge 中使用 Automatic FP16 LoRA,不要使用 NF4 或 NF4 Automatic。

  • 建议为 FORGE 设置 COMMANDLINE_ARGS= --unet-in-bf16 --vae-in-fp32。

  • 完整检查点不要加载任何额外的 TE、VAE 或 CLIP。

  • 除了混合精度量化外,未对 Blackforest 基础扩散模型进行任何其他更改。

该模型很可能是首个将 NF4 量化与 Blackforest 建议(不量化 TE 模块)相结合的模型。

在保持高精度和高速度的同时,模型体积仍小于 24GB(在 16GB 和 8GB 显卡上也能良好运行)。

此模型生成的图像

未找到图像。