Flux Nude/NSFW Training Base

これは、私がFluxxxibleとReclining Nude, After SexのLoRAで使用してきた、部分的に学習された2つのスナップショットのマージです。これらを用いて、より複雑なNSFWコンセプトのLoRAトレーニングに着手していました。このリリースは、女性の乳首や性器の詳細な描写を改善し、あなたのトレーニングプロセスを加速することを目的としています。

このLoRAは単独で使用することを意図していません。手の生成が悪くなり、奇妙なキャンディーのような乳首やその他の不具合が発生します。これは意図的な設計であり、さらにトレーニングすることで専門化できるようにするためです。

このベースでLoRAをトレーニングした場合、ぜひ教えてください。その中でいくつかを推奨リソースとして追加します。

トレーニング

私のテストでは、このLoRAの上に複雑なNSFWコンセプトを追加でトレーニングするには、およそ500ステップで十分でした。私は約250枚の画像からなる中規模のデータセットを好みますが、20～25枚のマイクロサイズのデータセットでも成功しています。

このLoRAはランク32で抽出されており、最良の結果を得るには同じランクでトレーニングする必要があります。私はランク8～128を徹底的にテストし、品質の大きな損失なしに最も優れた結果を得られたのはランク32でした。

私は1024x1280の画像サイズでトレーニングすることを好み、トレーニング前に画像を変換してより良い変換アルゴリズムを活用しています。これにより、A6000またはA40を使用するとバッチサイズを6に設定でき、ほとんどの設定で6時間以内にトレーニングが完了し、RunPodを使用した場合のコストは約$2～3です。

私のハイパーパラメータ設定は以下の通りです：

d_coef: 2
learning_rate: 1.0
learning_scheduler: cosine
max_epochs: 15
network_alpha: 32
network_dim: 32
noise_offset: 0.1
num_cycles: 1
optimizer_type: prodigy
optimizer_args: |   
  "decouple=True" 
  "weight_decay=0.1" 
  "betas=0.9,0.999" 
  "use_bias_correction=False" 
  "safeguard_warmup=False" 
resume_from: extracted-fluxxible-reclining-60-40.safetensors 
save_every_n_steps: 50 
sample_every_n_steps: 100 
timestep_sampling: shift 
weight_decay: 0.1 

私のデータセット設定は以下の通りです：

{
        "datasets": [{
                "resolution": 1280,
                "enable_bucket": true,
                "min_bucket_reso": 768,
                "max_bucket_reso": 1280,
                "bucket_reso_steps": 256,
                "bucket_no_upscale": true,
                "batch_size": 6,
                "subsets": [...]
        }]
}

さらに詳しい情報は近日中に公開予定です。今後数週間でこのベースを使用した新たなLoRAを複数公開し、時間があればより多くのトレーニング設定をまとめた記事を執筆する予定です。

このプロセスを改善するための提案があれば、ぜひお知らせください。私は数週間にわたり多数のハイパーパラメータ組み合わせをテストし、現時点でこれが最も優れた組み合わせであると判断していますが、さらに改善できるよう喜んで対応します。

プロンプト

このLoRAのプロンプト形式は、Llama/Joyのキャプションスタイルをベースにしており、私の他のLoRAと同様に一部の単語が検閲されています。詳細なプロンプトで同様の形式を使用すると最良の結果が得られますが、非常に短いプロンプト、さらには単一のキーワードのみでもトレーニングに成功しています。

検閲されたキーワードは以下の通りです：

• 4nus：肛門 (anus)
• 4n4l：肛門性交 (anal)
• 4ss：お尻、臀部 (butt, buttocks)
• br34st：乳房 (breast and breasts)
• cl1t0r4l：陰核 Hood など (clitoral hood, etc)
• cl1t0r1s：陰核 (clitoris)
• d1ld0：ディルド、性玩具 (dildo and sex toy)
• n4k3d：裸 (naked)
• n1ppl3：乳首 (nipple and nipples)
• nud3：裸体 (nude)
• 0r4l：オーラル (oral)
• 0r4l s3x：オーラルセックス (oral sex)
• p3n1s：陰茎 (penis)
• s3x：セックス (sex)
• v4g1n4：膣 (vagina)