エリーゼ・ルタス Elize Lutus (TALES OF XILLIA) XLPony
详情
下载文件
模型描述
LoRA+、CosineAnnealingLR 与 PagedAdamW8bit 的组合测试
该 LoRA 模型在 20 个 epoch 后已初具形态,由于损失值呈现清晰的下降趋势,因此将训练延长至 100 个 epoch。
--lr_scheduler_type "CosineAnnealingLR" --lr_scheduler_args "T_max=900" "eta_min=0e-0" --network_args "loraplus_lr_ratio=16"
中途发现,将 T_max 设置为使学习率降至最低点更为合适。
若 VRAM 充足,使用 AdamW8bit 即可,无需 PagedAdamW8bit。
推荐的负面提示:
blurred details,blur,blurred,upscaled image
因使用放大与 Lama Cleaner 后部分细节被抹除,故加入这些提示。
LoRA+、CosineAnnealingLR 与 PagedAdamW8bit 的组合测试
该 LoRA 模型在 20 个 epoch 后已初具形态,由于损失值呈现清晰的下降趋势,因此将训练延长至 100 个 epoch。
参数:
- 学习率调度器类型:
CosineAnnealingLR - 学习率调度器参数:
T_max=900,eta_min=0e-0 - 网络参数:
loraplus_lr_ratio=16
观察与建议
- T_max 设置:最好将
T_max设为使学习率降至最低点。 - 优化器选择:虽然使用了 PagedAdamW8bit,但若 VRAM 充足,AdamW8bit 已经足够。
推荐的负面提示
- 提示词:
blurred details, blur, blurred, upscaled image - 原因:部分图像因放大和使用 Lama Cleaner 导致细节被破坏。
附言:
拼写应为 "z"。
因为有一款名为 "Lotus Elise" 的经典车型,我因拼写错误做了些无谓的调整。




