Flux1-Dev FP8&NF4&GGUF 6 steps, Hybrid 4 steps : SVDQuant-int4-Flux.1-Dev : LORA models

このアップロードは、公開されている svdq-int4_r32-flux.1-dev を用いた高度な画像生成技術のデモンストレーションです。私は元の作成者ではありません。

ComfyUI Portable 用 Nunchaku のインストール（「生存者」のためのガイド）

（単一ファイル svdq-int4_r32-flux.1-dev.safetensors を使用するため）

このガイドは、ComfyUI ポータブルインストールと ComfyUI-Nunchaku をシームレスに動作させるための実際のトラブルシューティングプロセスに基づいています。多くのユーザーが依存関係の問題に直面しており、このガイドは「プロセスに影響を受けた」人々を支援することを目的としています。

免責事項：このガイドは公式なものではありません。広範なトラブルシューティングに基づくコミュニティ主導の取り組みです。変更を行う前に必ずファイルをバックアップしてください。

なぜこのガイドなのか？ 公式の Nunchaku PyPI リリースは古くなっていることがあり、直接インストールすると依存関係の競合が発生することがあります。特に filterpy と PyTorch のバージョンとの間で問題が起きやすいです。このガイドでは、これらの問題を解決する特定の開発リリースの使用に焦点を当てています。

対象環境：

• ComfyUI Portable（組み込みPython付き）

• Python 3.12

• PyTorch 2.7.1+cu128（または類似の +cu12x バージョン）

NVIDIA GPU 互換性に関する注意： NVIDIA は GPU の互換性をシリーズ番号ではなくアーキテクチャで分類しています。

• INT4/FP4（例：Nunchaku の量子化）：Ada Lovelace（RTX 40 シリーズ）や Hopper などの新世代アーキテクチャに特に適しています。これらは INT4/FP4 のハードウェアを搭載しているからです。

• Ampere（RTX 30 シリーズ）：FP16 との互換性は完全であり、Nunchaku の多くの機能で良好に動作します。INT4/FP4 も実行可能ですが、Ada Lovelace ほどパフォーマンス向上は期待できません。

• 旧世代（例：RTX 20 シリーズや GTX 16 シリーズ）：INT4/FP4 などの高度な機能の互換性は限られているか、全く存在しない可能性があります。通常、FP32 や FP16 の使用が求められます。

ステップバイステップインストールガイド：

1. ComfyUI を終了する：インストールを開始する前に、ComfyUI アプリケーションを完全に終了してください。

2. 組み込みPythonのターミナルを開く：コマンドプロンプトまたは PowerShell で ComfyUI_windows_portable\python_embeded ディレクトリに移動します。例：cd E:\ComfyUI_windows_portable\python_embeded

3. 問題のある以前の依存関係をアンインストールする：これにより、以前の失敗した試みや競合するバージョンをクリーンアップします。bash python.exe -m pip uninstall nunchaku insightface facexlib filterpy diffusers accelerate onnxruntime -y （インストールされていないパッケージについては「Skipping」メッセージを無視してください。）

4. 特定の Nunchaku 開発用 wheel をインストールする：これは非常に重要です。この事前ビルドパッケージは一般的なコンパイル問題を回避し、PyTorch 2.7 と Python 3.12 と互換性があります。bash python.exe -m pip install https://github.com/mit-han-lab/nunchaku/releases/download/v0.3.1dev20250609/nunchaku-0.3.1.dev20250609+torch2.7-cp312-cp312-win_amd64.whl （注：win_amd64 は AMD CPU を意味するのではなく、64ビット Windows を意味します。64ビット Windows 上の Intel CPU にも正しいです。）

5. facexlib をインストールする：Nunchaku wheel をインストールした後、一部のオプションノード（例：PuLID）に必要な facexlib 依存関係がまだ欠落している可能性があります。直接インストールしてください。bash python.exe -m pip install facexlib

6. insightface をインストールする：insightface は Nunchaku の顔関連機能のもう一つの重要な依存関係です。前述の手順では完全にインストールされないことがあります。bash python.exe -m pip install insightface

7. onnxruntime をインストールする：insightface は ONNX モデルを実行するために onnxruntime に依存しています。インストールされていることを確認してください。bash python.exe -m pip install onnxruntime

8. インストールを確認する：* ターミナルを閉じる。* E:\ComfyUI_windows_portable\ から run_nvidia_gpu.bat または run_nvidia_gpu_fast_fp16_accumulation.bat（または普段使用している起動スクリプト）で ComfyUI を起動する。* **コンソール出力を確認する**：起動時に Nunchaku またはその依存関係に関する ModuleNotFoundError や ImportError メッセージが表示されていないことを確認する。* **ComfyUI GUI を確認する**：ComfyUI インターフェースで「Add Nodes」をクリックし、NunchakuPulidApply と NunchakuPulidLoader を含むすべての Nunchaku ノードが表示され、ワークフローに追加できることを確認する。9個の Nunchaku ノードが表示されるはずです。

重要な注意点：

• ComfyUI-Nunchaku に現在含まれる Nunchaku wheel installer ノードは、今後 Nunchaku を更新するのに役立ち、メンテナンスを簡素化します。

• 例のワークフローは E:\ComfyUI_windows_portable\ComfyUI\custom_nodes\ComfyUI-nunchaku\ 内の workflows_examples フォルダで見つけることができます。これらの JSON ファイルを ComfyUI に直接読み込むことで、Nunchaku ノードの使用方法を確認できます。

• xformers などのパフォーマンス最適化は存在しますが、厳密なバージョン依存関係や「ロールバック」手順の必要性により、インストールを複雑化することがあります。ほとんどのユーザーにとって、上記の手順で Nunchaku を完全に機能させることが十分です。

svdq-int4_r32-flux.1-dev バージョンは、int4 と BF16（Bfloat16）レイヤーを単一ファイルで統合しているため、「キャラクター」生成において「はるかに優れている」と考えられます。

その理由を以下に説明します：

• INT4（4ビット整数）：これは非常に圧縮されたデータ型です。主な利点はメモリ使用量を大幅に削減し、推論（モデルを訓練せずに画像を生成する段階）時に計算速度を向上させることです。これにより、VRAM が少ない GPU でも実行可能になったり、より大きな画像サイズやバッチサイズでの処理が可能になります。極端な圧縮により「品質の低下」が生じる可能性はありますが、多くの用途ではその影響が最小限に最適化されています。

• BF16（Bfloat16）：これは16ビット浮動小数点形式で、精度と範囲のバランスが良好です。ディープラーニングの訓練でよく使用され、FP16 などの他の低精度フォーマットで発生しがちなオーバーフロー／アンダーフローなどの数値的安定性の問題を避けるのに役立ちます。BF16 は INT4 よりも通常、より高い精度を提供します。

単一ファイルで両者を統合したことが、特にキャラクター生成に優れている理由：

int4 と BF16 が単一ファイルで統合されていることは、通常「混合精度」アプローチを意味します。つまり、モデルは両者の長所を活用しています：

1. 効率性：int4 レイヤーは、極めて高い精度が不要な部分を処理し、メモリ使用量を劇的に削減して処理速度を向上させます。

2. 重要な部分の品質：BF16 レイヤーは、キャラクターの詳細で一貫性が求められる部分（顔の特徴、手、など）に使用されている可能性が高く、全体的な圧縮にもかかわらず、キャラクターの本質的な要素を高品質に保ちます。

3. シームレスな統合：単一ファイルに統合されていることは、これらの異なる精度レイヤー間の移行が最適化されていることを示しており、分離ファイルや未完成の混合精度実装と比較して、全体的なパフォーマンスと出力品質が向上します。

4. キャラクター生成全体の改善：効率性のために int4 を、重要な要素のために BF16 を賢く適用することで、モデルはキャラクター生成においてより詳細で正確な結果を出しつつ、非常に効率的に動作できます。これにより、よりシャープな特徴、一貫した解剖学的構造、そしてキャラクター生成における全体的な芸術的品質が向上します。

要するに、新しいバージョンはモデルのサイズ、速度、出力品質のバランスをより良く実現しており、この最適化された混合精度戦略により、キャラクター生成の品質が特に向上しています。