GGUF: Flux Unchained

[注意: GGUFファイルを取得するには、ダウンロードしたファイルを解凍してください。CivitAIはネイティブでGGUFをサポートしていないため、この回避策が必要です]

socalguitarist がチューニングしたFluxUnchainedのGGUF版です。このモデルの変換は、このスクリプトを修正したバージョンを使用して行いました。

このモデルは、このカスタムノードを使用してComfyUIで、またはForge UIで利用できます。

Forge UIのGGUFサポートについて、またVAE、clip_l、t5xxlモデルのダウンロード場所については、https://github.com/lllyasviel/stable-diffusion-webui-forge/discussions/1050 をご参照ください。

どのモデルをダウンロードすべきですか？

[現状: 最新版のForge UIとComfy UI（GGUFノード）を使用して、11GBのVRAMを搭載した1080tiでQ8_0を実行できます。]

ご使用のVRAM容量に合ったモデルを選んでください。モデルがGPUメモリに収まる場合、推論コストの差は非常に小さいです。サイズの順序は、Q4_0 < Q4_1 < Q5_0 < Q5_1 < Q8_0 です。

• Q4_0 および Q4_1：8GB VRAMに収まります
• Q5_0 および Q5_1：11GB VRAMに収まります
• Q8_0：より多くのVRAMをお持ちの場合はこちら！

注意：CPUオフロードを使用すれば、VRAMに収まらないモデルでも実行できます。

アップデート

V2: オリジナルのv1はfp8チェックポイントから作成しましたが、二重量子化によりエラーが蓄積し、v1ではシャープな画像を生成できませんでした。v2では、bf16 Devチェックポイントを手動でマージした後、GGUFに変換しました。このバージョンはより詳細で、はるかにクリアな結果を生成できます。

Flux.1 Devに関連するすべてのライセンス条件が適用されます。