vjumpkung의 Rice Shower Pony LoRA

• 누군가가 자신의 데이터셋을 공개했지만, 이는 1.5용이었기 때문에, 제가 직접 수집하여(AI를 사용하지 않고) 재분류하고 여러 개념을 함께 학습시켜 어떻게 보이는지 확인했습니다.

• LoRA 학습용으로만 사용해 주세요. 저를 비난하지 마세요.

변경 사항

V2: 2e-4 U-Net LR 및 1e-4 TE LR, AdEMAMix + 역수근 스케줄러 (메타데이터 뷰어를 사용하면 v4라고 표시되는데, 이 모델은 지금까지 4버전을 학습했지만 CivitAI에는 2버전만 공개했습니다. v1과 v2에 대해 DM하지 마세요. 하나는 과적합이고, 다른 하나는 과소적합입니다)

V1: AdEMAMix8bit 옵티마이저와 역수근 스케줄러 사용 (여전히 과소적합)

데이터셋 + 캡션 참조: /model/22604 및 제가 재정렬

권장 옵션

• 가중치: 1

• 트리거 단어

  • 베이스 (모든 의상과 함께)

    • rice shower \(umamusume\)

    • 헤드웨어와 파란 장미는 포함되지 않습니다!

  • Rice의 대표적인 헤드웨어

    • 파란 헤드웨어, 기울어진 헤드웨어, 모자 꽃, 파란 장미

  • 경주 경기복:

    • 파란 헤드웨어, 기울어진 헤드웨어, 모자 꽃, 파란 장미, 긴 소매, 보라색 소매, 손목을 넘는 소매, 털 소매장식, 어깨 드레스, 드러난 어깨, 파란 드레스, 드레스 리본, 창검, 레이스 트림, 레이스 트림 다리 장식, 갈색 허벅지 스타킹, 신발, 검은 신발

    • (옵션 1) 손가락을 뾰족하게 모은 자세

    • (옵션 2) 빛나는 눈, 불타는 눈, 눈자국

  • 캐주얼:

    • 캐주얼, 헤어밴드, 헤어 리본, 갈색 리본, 긴 소매, 칼라 드레스, 갈색 드레스, 주름 드레스, 주름, 흰색 양말, 갈색 신발, 메리제인 신발

  • 뱀파이어 메이크업!:

    • 공식 대체 의상, 할로윈 의상, 머리 꽃, 파란 장미, 머리 장식, 주름진 헤어밴드, 보라색 장갑, 줄무늬 넥타이, 검은 넥타이, 브로치, 부풀어 오른 단소매, 박쥐 날개, 칼라 셔츠, 흰색 셔츠, 중앙 주름, 재스터 호박, 주황색 리본, 허리가 높은 치마, 중간 길이 치마, 보라색 치마, 거미줄 무늬, 검은 치마, 보라색 신발

    • (옵션) 발톱 자세, 이빨

  • 트라센 학교 유니폼:

    • 트라센 학교 유니폼, 여름 유니폼, 세라후쿠, 부풀어 오른 단소매, 넥타이, 말굽 장식, 선원 칼라, 선원 셔츠, 주름, 흰 치마, 보라 셔츠, 미니스커트, 젯타이 리오우키, 흰 허벅지 스타킹, 갈색 신발, 신발

  • 요미 드림 페어리 (V2 전용)

    • 요미 드림 페어리, 트윈테일, 긴 머리, 헤드웨어, 뺨적, 드레스, 긴 소매, 보라색 눈, 앞치마

참조: /model/22604

학습 세부 정보 (V2 전용)

LoRA 크기

• 동적 차원/알파 (최대 8)

데이터셋

• 경주 경기복: 150장

• 뱀파이어 메이크업!: 50장

• 캐주얼: 30장

• 트라센 학교 유니폼: 27장

• 요미 드림 페어리: 20장

• 기타: 62장

*불균형 데이터셋 보정을 위해 150장에 가깝도록 반복 추가

파라미터

• 해상도 = 1024

• 배치 크기 = 2

• dim, alpha = 16,16 (학습용)

• 혼합/저장 정밀도 = bf16/bf16 → fp16으로 축소

• 옵티마이저 = AdEMAMix (VRAM 사용량 10.5GB에서 11.5GB까지 증가)

• U-Net LR = 2e-4

• TE LR = 1e-4

• 스케줄러 = inverse_sqrt, 워밍업 100단계

• L2 손실만 사용

단계

• 에포크 = 10

• 총 단계 = 4380단계

• 반복 횟수 = 1,3,5,6,7,2 (데이터셋 순서에 따름)

도구

• kohya-ss GUI v24.2.0

• torch 2.5.0 cu124

• RTX 3060 12GB + xformers + gradient_checkpointing

가중치

• U-Net 평균 가중치 강도: 0.015112816238817505

• 텍스트 인코더(1) 평균 가중치 강도: 0.011408020326133637

• 텍스트 인코더(2) 평균 가중치 강도: 0.010726570189826059

*이 LoRA는 새로운 기법으로 LoRA 학습을 연구하기 위한 것으로, 캐릭터를 손상시키기 위해 사용하지 마세요 (NSFW 생성 금지).