AstolfoMix-SD2
詳細
ファイルをダウンロード
このバージョンについて
モデル説明
AstolfoMix-SD2
15のモデル(12のUNet + 4のCLIP)をエキゾチックにマージしたものです。詳細はこの記事をご覧ください。「やや公式リリース」前のスニープビューはこちら。内容や理論はSD1版と重複せず、以下はSD2専用です。
抽象
AstolfoMix-SD2を発表します。これは「実用的なSD2.1モデルを作ること」に焦点を当てたマージモデルです。これまでのモデルとそのファインチューニング版(特にWD1.5)の歴史は惨憺たるものでした。現在はアニメスタイルです。彼女はAstolfoではありませんが、それでもとてもかわいいです!
イントロダクション
SD2.1はオリジナルのアイデアを試すのに最適なフィールドです。SD2とそのファインチューニング版(特にWD1.5)の全歴史は完全な悲劇でした。もし私が全く使えないモデルをマージしても合理的な結果が出るなら、さらに多くの独創的な発見ができ、真実に近づけるでしょう。
関連研究
WD1.5B2から始めて、私はそれが「トレーナーの問題とA1111のランタイムの問題」であると信じています。当時のほとんどのモデルは、デモケースで言及されたプロンプト以外では、どんな合理的な画像も生成できませんでした。231231現在、2303の同じ画像を再現できません。Replicant-V3.0とそのバリエーションを除き、PonyDiffusionすら、デモプロンプトから合理的な画像を生成できません(ほとんどのユーザーはこの事実を認識していません。なぜなら彼らはターゲットユーザーだからです)。したがって、改善点が必ず存在します。
一部の試行錯誤マージは類似の考えを持っていますが、奇妙に動作します(後で必要なプロンプトがあることに気づきました)、また親モデルからの実際の改善もあります。結果モデルが概念理解に劣る原因として、マージに何か深刻な問題が含まれていたはずです。
メソッド
SD1のように「ランダムにモデルを選んでも動く」のとは異なり、(慎重な)モデル選択はNP困難(O(N!))な問題です。しかし、視覚的検査によるパターン認識(合計23個と数が少ないため)により、核心的概念は**「Replicant-V3 UNET + WD1.5B3 CLIP」にまで絞られました。さらにマッチングを重ね、このバージョンのAstolfoMixでは10個のUNetと4個のCLIP/TE**を選び出しました。
今回はstable-diffusion-webui-model-toolkitを頻繁に使用します。なぜなら、UNetとCLIPを同時に抽出・インポートし続ける必要があるからです。また、このツールはモデルをFP16のsafetensors形式で保存し、広く使用され、信頼性が高く、ディスク容量も節約できます。今や80個以上のモデルを生成しました(これは膨大です)(空間的複雑さは_O(N))_
(画像と手順は省略。詳細は私のGitHubページをご覧ください)私はCLIPとUNetの間で複数回のグローバル比較を行い、段階的にモデルの範囲を狭め、最終的に発見されたSD2.1モデルの半分だけを選び出しました。
実験
SD1版と同様です。唯一の違いは、ほとんどのモデルが「アニメ/リアル」とタグ付けされているため、プロンプトを調整しなければならなかったこと、そしてAIがSD1のようにスタイルをブレンドしなかったことです。実際のモデル構造の違いにより、ランタイムエラー、マージ全体で同一スコア、一貫した劣化画像が発生しました。複数の回避策を適用し、モデル選択を切り替えるまで行いました。
議論
SD1版と同様です。v-predは有用です。タグ付けは依然として解決可能です(私は品質/スタイルタグに反対です。これにより多くの無関係なオブジェクトと結びついて、(ベース)モデル全体の柔軟性を損なう可能性があります)。代わりにLoRA/埋め込み(badhands/badprompt)で問題を解決してください。
結論
ぜひ私のモデルをお試しください!AstolfoMixは私の個人的な「モデル選択」と「特徴抽出」に過ぎません。誰もが「均一マージ」を使って、優れたSDXLモデルが登場する前に独自のベースモデルを作成できます。また、豊富なリソースを持たない場合は、リスクの高いMBW/ファインチューニングに時間を無駄にしないでください。
付録
使用したモデル
CivitAIは表形式をサポートしていないため、代わりにリストを再編成しました。
UNet:
_202Artius V2.1 NSFW
_204hakoMayD
_206Mishi Anime
_210Quattro4Merge+i
_211Replicant-V3.0
_221RheaSilvia
_222MuaccaMix
_223hakoMayBoy
_224Hurricane
CLIP:
_213Cool Japan Diffusion 2.1.2
_215WD 1.5 Beta 3
_220Realgar-v2.1
発見されたモデル
_201AllWorkForkRowk
_203E621 Rising v2
_207NijiDiffusion
_209PVC v4
_212Pony Diffusion
_214WD 1.5 Beta 2
_216YiffAI




