훈련 모드를 변경했고(지금은 LoHa), Kohya SS의 훈련 매개변수를 수정하여 옵티마이저의 불안정성을 해결했습니다. 옵티마이저도 변경되었습니다. 이제 Prodigy를 사용합니다.
아래는 전체 설정입니다:
이미지 수(반복 포함) / 각 bucket의 이미지 수(반복 횟수 포함)
bucket 0: 해상도 (768, 512), 수량: 816
bucket 1: 해상도 (768, 896), 수량: 4
bucket 2: 해상도 (768, 1024), 수량: 992
bucket 3: 해상도 (768, 1152), 수량: 2170
bucket 4: 해상도 (896, 768), 수량: 23
bucket 5: 해상도 (896, 896), 수량: 71
bucket 6: 해상도 (896, 1024), 수량: 98
bucket 7: 해상도 (896, 1152), 수량: 40
bucket 8: 해상도 (1024, 768), 수량: 1490
bucket 9: 해상도 (1024, 896), 수량: 99
bucket 10: 해상도 (1024, 1024), 수량: 802
bucket 11: 해상도 (1152, 768), 수량: 763
bucket 12: 해상도 (1280, 768), 수량: 540
평균 AR 오차(반복 제외): 0.025714800356640224
アクセ러레이터 준비 중
프로세스 0/1용 모델 로딩 중
StableDiffusion 체크포인트 로딩: /mnt/SD/.ckpt/SDXL/juggernautXL_version2.safetensors
랭크 적응 알고리즘 사용: loha
Dropout 값 사용: 0.0
LyCORIS 모듈 생성
LyCORIS 모듈 생성
Text Encoder용 LyCORIS 생성: 264개 모듈.
LyCORIS 모듈 생성
U-Net용 LyCORIS 생성: 788개 모듈.
U-Net에 LyCORIS 활성화
옵티마이저, 데이터 로더 등 준비
사용 중단됨: prepare_optimizer_params(text_encoder_lr, unet_lr) 대신 prepare_optimizer_params(text_encoder_lr, unet_lr, learning_rate)를 사용하세요.
Prodigy 옵티마이저 사용 | {}
스텝을 재정의합니다. 40 에포크에 대한 스텝 수 / 지정 에포크까지의 스텝 수: 63280
완전한 bf16 훈련을 활성화합니다.
훈련 실행 / 학습 시작
훈련 이미지 수 × 반복 횟수 / 학습 이미지 수×반복 횟수: 3954
정칙화 이미지 수 / 정칙화 이미지 수: 30064
에포크당 배치 수 / 1에포크당 배치 수: 7908
에포크 수 / 에포크 수: 40
장치당 배치 크기 / 배치 크기: 1
기울기 누적 스텝 / 기울기를 합산하는 스텝 수 = 5
총 최적화 스텝 / 학습 스텝 수: 63280