이것은 일반적인 LoRA가 아닌 DoRA입니다. 이 모델을 사용하려면 A1111 v1.9.0 이상이 필요합니다. Forge 사용자는 두 개의 파일을 다운로드해야 하며, 이 파일들은 여기에서 찾을 수 있습니다. stable-diffusion-webui\ldm_patched\modules 경로로 이동하여 해당 폴더의 파일들을 교체하세요.

• Forge에서 강도 1로 사용할 때 일부 프롬프트에서 아티팩트가 발생할 수 있습니다.

학습 설정:

DoRA 학습을 위해서는 lycoris 서브모듈을 업데이트해야 합니다:

https://github.com/bmaltais/kohya_ss/issues/2589#issuecomment-2171903484

Kohya 학습 toml

bucket_no_upscale = true
bucket_reso_steps = 256
cache_latents = true
cache_latents_to_disk = true
caption_extension = ".txt"
clip_skip = 2
dynamo_backend = "no"
enable_bucket = true
epoch = 30
full_bf16 = true
gradient_accumulation_steps = 1
gradient_checkpointing = true
huber_c = 0.1
huber_schedule = "snr"
learning_rate = 1.0
logging_dir = "E:/work/LoRa_work/logging"
loss_type = "l2"
lr_scheduler = "cosine"
lr_scheduler_args = []
lr_scheduler_num_cycles = 1
lr_scheduler_power = 1
max_bucket_reso = 2048
max_data_loader_n_workers = 0
max_grad_norm = 1
max_timestep = 1000
max_token_length = 225
max_train_epochs = 30
max_train_steps = 3395
metadata_author = "motimalu"
min_bucket_reso = 512
min_snr_gamma = 5
mixed_precision = "bf16"
multires_noise_discount = 0.3
multires_noise_iterations = 6
network_alpha = 16
network_args = [ "preset=full", "conv_dim=1", "conv_alpha=1", "rank_dropout=0",
"bypass_mode=False", "dora_wd=True", "module_dropout=0", "use_tucker=False",
"use_scalar=False", "rank_dropout_scale=False", "algo=locon", "train_norm=False",]
network_dim = 32
network_module = "lycoris.kohya"
no_half_vae = true
noise_offset_type = "Multires"
optimizer_args = []
optimizer_type = "Prodigy"
output_dir = "D:/model_output"
output_name = "pony_color_theory_dora_v1"
pretrained_model_name_or_path =
"C:/workspace/webui_forge_cu121_torch21/webui/models/Stable-diffusion/ponyDiffusionV6XL_v6Start
WithThisOne.safetensors"
prior_loss_weight = 1
resolution = "1024,1024"
sample_every_n_epochs = 10
sample_prompts = "D:/model_output\\prompt.txt"
sample_sampler = "euler_a"
save_every_n_epochs = 30
save_model_as = "safetensors"
save_precision = "bf16"
seed = 339491249
text_encoder_lr = 1
train_batch_size = 6
train_data_dir = "C:/data/color_theory"
unet_lr = 1
xformers = true