Iori Yoshizuki ( (IA)^3 experiment version ) - I''s

ProdigyおよびType Ia3を使用して、以下のパラメータでトレーニング：

[general_args.args]
pretrained_model_name_or_path = "D:/wifediff/stable-diffusion-webui/models/Stable-diffusion/anything-v4.5-pruned.safetensors"
mixed_precision = "fp16"
seed = 80085
clip_skip = 2
xformers = true
max_data_loader_n_workers = 1
persistent_data_loader_workers = true
max_token_length = 225
prior_loss_weight = 1.0
max_train_epochs = 8
training_comment = "Trigger: yoshizuki_iori, School_uniform_Purple_shirt_Blue_skirt_White_neckerchief_Black_thighhighs"
cache_latents = true

[general_args.dataset_args]
resolution = 512
batch_size = 1

[network_args.args]
network_dim = 32
network_alpha = 16.0

[optimizer_args.args]
optimizer_type = "Prodigy"
lr_scheduler = "cosine"
learning_rate = 1.0
lr_scheduler_type = "LoraEasyCustomOptimizer.CustomOptimizers.CosineAnnealingWarmupRestarts"
lr_scheduler_num_cycles = 1
min_snr_gamma = 5

[saving_args.args]
output_dir = "D:/wifediff/lora/iorilora"
save_precision = "fp16"
save_model_as = "safetensors"
output_name = "yoshizuki_ioriV4"
tag_occurrence = true
save_toml = true
save_every_n_epochs = 1

[bucket_args.dataset_args]
enable_bucket = true
min_bucket_reso = 256
max_bucket_reso = 1024
bucket_reso_steps = 64

[network_args.args.network_args]
conv_dim = 32
conv_alpha = 16.0
algo = "ia3"

[optimizer_args.args.lr_scheduler_args]
min_lr = 1e-6
gamma = 0.9

[optimizer_args.args.optimizer_args]
weight_decay = "0.01"
decouple = "True"
use_bias_correction = "True"
safeguard_warmup = "True"
d_coef = "2"

これは、一部の人々が「Ia3はトースト面包以来の最高の発明だ」と主張しているのを聞いて、好奇心から試してみた結果です。その結果は？とても奇妙な小さな存在で、「小さな」ことに重点が置かれています。218KBと、TIと同等のサイズです。LORAバージョンやLOCONバージョンと比較できます。

画像的に見ると、LORAからモデルのすべての影響を抽出したような印象です。特にこのケースでは、データセットの大部分が白黒同人誌と色付き同人誌で構成されていたため、生成される画像は実際には色付き同人誌のように見えます！これは恐ろしく、同時に信じがたいことです。

以下に、利点と欠点の分析を示します。

利点：

非常に小さい
Prodigyを使用して非常に高速にトレーニング可能。1つのコンセプトにつき8エポック、1エポックあたり250〜300ステップで十分な結果が得られます。
サムネイルや焼き付かないスクリーンキャプチャのようなモノクロで均一なデータセットに対して極めて有効であると推測されます。
スタイルの保持に優れているようです。
モデル間の移植性は報告されているほど悪くなく、LOCONより劣るものの、LORAと同等かやや低いレベルです。

欠点：

データセットに含まれていないタグに対する反応性が、LORA/LOCONよりやや劣る。
データセットの欠陥に対して敏感であり、通常はモデルが補完する部分（欠けた角度、髪の細部の不足、生地の質感、色味の薄さ、ぼやけ）が顕著に現れます。
モデルのスタイルを強く表現せず、中立的ではあるがやや味気ない印象になります。

結論：

Ia3は、すぐに使えるまあまあなLORAを作成したいとき、データセットの有効性を素早くテストしたいとき、あるいは「あまり正確でなくてもよい」、「特定のスタイルに厳密に従わせたいわけではない」という初心者向けに最適です。

データセット、トレーニング用TOMLファイル、6つの異なるモデルの結果を比較するXYZファイルを追加します。

ちなみに、以下のようにして良い結果が得られました：<lora:yoshizuki_ioriV4:.8> yoshizuki_iori

タグ付けされた衣装は以下の1つだけです：

school_uniform_purple_shirt_blue_skirt_white_neckerchief_black_thighhighs

モデルタイプ	LoCon
ベースモデル	SD 1.5
公開日	10/3/2023
トレーニングワード	yoshizuki_iori school_uniform_purple_shirt_blue_skirt_white_neckerchief_black_thighhighs

Iori Yoshizuki ( (IA)^3 experiment version ) - I''s

詳細

ファイルをダウンロード

このバージョンについて

モデル説明

このモデルで生成された画像