エリーゼ・ルタス Elize Lutus (TALES OF XILLIA) XLPony

详情

模型描述

LoRA+、CosineAnnealingLR 与 PagedAdamW8bit 的组合测试

该 LoRA 模型在 20 个 epoch 后已初具形态,由于损失值呈现清晰的下降趋势,因此将训练延长至 100 个 epoch。

--lr_scheduler_type "CosineAnnealingLR" --lr_scheduler_args "T_max=900" "eta_min=0e-0" --network_args "loraplus_lr_ratio=16"

中途发现,将 T_max 设置为使学习率降至最低点更为合适。

若 VRAM 充足,使用 AdamW8bit 即可,无需 PagedAdamW8bit。

推荐的负面提示:

blurred details,blur,blurred,upscaled image

因使用放大与 Lama Cleaner 后部分细节被抹除,故加入这些提示。

LoRA+、CosineAnnealingLR 与 PagedAdamW8bit 的组合测试

该 LoRA 模型在 20 个 epoch 后已初具形态,由于损失值呈现清晰的下降趋势,因此将训练延长至 100 个 epoch。

参数:

  • 学习率调度器类型CosineAnnealingLR
  • 学习率调度器参数T_max=900eta_min=0e-0
  • 网络参数loraplus_lr_ratio=16

观察与建议

  • T_max 设置:最好将 T_max 设为使学习率降至最低点。
  • 优化器选择:虽然使用了 PagedAdamW8bit,但若 VRAM 充足,AdamW8bit 已经足够。

推荐的负面提示

  • 提示词blurred details, blur, blurred, upscaled image
  • 原因:部分图像因放大和使用 Lama Cleaner 导致细节被破坏。

附言:

拼写应为 "z"。

因为有一款名为 "Lotus Elise" 的经典车型,我因拼写错误做了些无谓的调整。

此模型生成的图像

未找到图像。