FluxUnchained NF4

このモデルの調整はすべて SocialGuitarist によるものです。
また、変換スクリプトの提供は lllyasvielfor によるものです。

私の 3080 10GB では FP8 や FP16 で動作させると問題が発生するため、同程度の結果を得つつ、Q4 や Q5 よりもはるかに速い NF4 に変換しました。

NF4 を ComfyUI でどのように使用できるかは不明ですが、Forge で使用したところ、高速な推論を実現でき、良好な結果を得られています。

2 つのバージョンを用意しています。1 つはテキストエンコーダーを組み込んだもの、もう 1 つは UNet のみ（ディスク容量を節約するため）です。

UNet を使用するには、Forge のテキストエンコーダー設定で以下のエンコーダーを選択または追加してください。

すべてのライセンス条項は Flux.1 Dev に適用されます。