エリーゼ・ルタス Elize Lutus (TALES OF XILLIA) XLPony

Lora+ 및 CosineAnnealingLR, PagedAdamW8bit의 조합 테스트

20에포크에서 형태가 잡혔으나 손실이 명확한 감소 경향을 보여 100에포크까지 학습시킨 LoRA

--lr_scheduler_type "CosineAnnealingLR" --lr_scheduler_args "T_max=900" "eta_min=0e-0" --network_args "loraplus_lr_ratio=16"

중간에 T_max를 학습률이 최저점에 도달하도록 설정하는 것이 더 나은 것 같다는 점을 인식함

PagedAdamW8bit는 VRAM이 충분하다면 AdamW8bit로도 충분했을 것 같음

추천 네거티브 프롬프트

blurred details,blur,blurred,upscaled image

업스케일과 라마 클리너로 인해 일부 디테일이 흐릿해진 이미지가 있기 때문

Lora+, CosineAnnealingLR, PagedAdamW8bit의 조합 테스트

이 LoRA 모델은 20에포크에서 좋은 결과를 보였고 손실이 명확한 하강 경향을 보였기 때문에 학습을 100에포크까지 확장함.

파라미터:

• 학습률 스케줄러 유형: CosineAnnealingLR
• 학습률 스케줄러 인자: T_max=900, eta_min=0e-0
• 네트워크 인자: loraplus_lr_ratio=16

관찰사항

• T_max 설정: 학습률이 최저점에 도달하도록 T_max를 설정하는 것이 더 나음.
• 옵티마이저 선택: PagedAdamW8bit를 사용했으나, VRAM이 충분했다면 AdamW8bit로도 충분했을 것.

추천 네거티브 프롬프트

• 프롬프트: blurred details, blur, blurred, upscaled image
• 이유: 업스케일 및 라마 클리너 사용으로 인해 일부 이미지의 디테일이 흐릿해짐.

부록

스펠은 'z'이다

로타스 엘리제라는 명차가 있기 때문에 스펠링 오류로 약간의 불필요한 일을 했다