[LuisaP] Tutorial Hypernetwork - Monkeypatch method

clip 2, vae on, 하이퍼네트워크 강도 1.

학습(train) 섹션에서 Beta 하이퍼네트워크 생성으로 이동하세요.
이 레이어 구조를 사용하세요: 1, 0.1, 0.1, 1 // thanks queria!, 개인적으로 정말 좋아요.
하이퍼네트워크의 활성화 함수 선택: tanh
레이어 가중치 초기화 선택: xavier normal
마지막으로, 하이퍼네트워크를 생성하세요.
이제 Train_Gamma에서 새로 생성한 하이퍼네트워크를 선택하세요.
하이퍼네트워크 학습률: 6.5e-3 "이 값은 수학적 이유로 정상입니다", 또한 6.5e-4는 원본 이미지에 덜 영향을 미칩니다.
고급 학습률 스케줄러 옵션(하이퍼네트워크용) 표시 및 CosineAnnealingWarmupRestarts 스케줄러 사용을 활성화하세요.
사이클당 스텝 수 = 데이터셋에 있는 이미지 수와 같습니다.
사이클당 스텝 증가율: 1.1 또는 1.2
사이클당 워밍업 스텝 수 = 이미지 수의 절반입니다.
베타 스케줄러의 최소 학습률 = 1e-5 [ 또는 6.5e-7, 데이터셋에서 얻는 스타일은 더 적지만, 더 많은 컨트롤 가능 ]
사이클마다 학습률 감소 = 0.9 또는 1

15a- 배치 크기 2, 그레디언트 1, 스텝 1000.

15b. 또한 이렇게 할 수 있습니다 [ 배치 크기 2, 그레디언트(데이터셋 이미지 수 ÷ 2) 그러나 이 경우 약 250 스텝만 필요하지만, 개인적으로는 선호하지 않습니다.

프롬프트 파일은 반드시 style.txt여야 합니다.
미리보기 생성 시 txt2img 탭에서 프롬프트 등의 파라미터를 읽기를 시도하여, 프롬프트에 포함된 스타일이 반영된 결과를 확인할 수 있습니다. 예를 들어 제 경우는 "빨간 기모노를 입은 소녀"입니다.

참고: 저는 2개의 CLIP 스킵, 하이퍼네트워크 없음, 하이퍼네트워크 강도 1으로 학습했습니다.