Qwen Sex, Nudes, Other Fun Stuff (SNOFS)

버전 1.1:

대규모 업데이트! 더 낮은 학습률로 학습되어 세부 사항이 향상되었으며, 추가 이미지도 포함되었습니다. 확인해보세요!

참고: 이 모델에 라이트닝 LoRA를 사용할 수는 있지만, 최고의 결과를 얻을 수는 없습니다. 프롬프트 테스트에는 훌륭하지만, 해부학적 오류가 발생하고 다양성이 줄어드는 경향이 있습니다.

버전 1:

지난 주말 저는 외출했습니다. 그동안 5090이 Qwen용 LoRA를 만들도록 두었습니다. 약 5,000개의 손으로 수정한 캡션(성적 내용, 누드, 그리고 엄선된 이미지에서 물음표를 제거한 것들)을 기반으로 학습시켰죠. 이렇게 빨리 좋은 결과가 나올 줄은 몰라서 몇 밤 더 훈련을 진행했습니다. 추후 추가 훈련도 할 예정이지만, 지금 상태로도 충분히 재미있게 사용할 수 있습니다.

기본적인 성적 자세, 오일링, 정액, 셀카, 진동기, 캡션이 달린 스냅챗 셀카 등을 생성할 수 있습니다. 여성 생식기 생성은 아직 불안정하지만, 남성 생식기는 괜찮은 편입니다. LoRA라는 특성상 수천 장의 이미지로 학습되었기 때문에 매우 유연하며, 다른 LoRA와 완벽한 유사성으로 결합해 사용할 수 있습니다.

때때로 캡션에 명시한 자세와는 다른 성적 자세를 생성하는 경우가 있는데, 왜 그런지 저도 확신이 서지 않습니다. 캡션에는 오류가 없기 때문입니다. 추가 훈련을 통해 이 문제가 조금은 완화될 수 있을 것입니다.

저는 Musubi Tuner를 사용했고, LoRA를 학습시키는 데 정말 오랜 시간이 걸렸습니다. 저는 GitHub 이슈 페이지에 있는 다른 lycoris 라이브러리를 사용해야 했던 기억이 납니다(기억에 의하면). 하지만 지금은 주요 라이브러리에도 Qwen 지원이 추가되었을 가능성이 있습니다. 아래는 제 학습 설정입니다. 단, 시간이 지나면서 학습률을 줄였고, 초기에는 시그모이드 타임스텝 샘플링을 사용했습니다. 640x640 및 1328x1328 버킷에서 학습했습니다:

accelerate launch --num_cpu_threads_per_process 1 --mixed_precision bf16 src\musubi_tuner\qwen_image_train_network.py `

--dit Q:\AI\Models\DiffusionModels\qwen_image_bf16.safetensors `

--vae Q:\AI\Models\VAE\qwen_vae_for_training.safetensors `

--text_encoder Q:\AI\Models\CLIP\qwen_2.5_vl_7b.safetensors `

--dataset_config S:\AI\Musubi\datasetWoman.toml `

--sdpa --mixed_precision bf16 `

--gradient_accumulation_steps 4 `

--timestep_sampling qinglong_qwen `

--optimizer_type adamw8bit `

--learning_rate 3e-4 --lr_scheduler linear --lr_scheduler_min_lr_ratio=1e-5 --lr_warmup_steps 150 `

--blocks_to_swap 25 `

--gradient_checkpointing --gradient_checkpointing_cpu_offload --max_data_loader_n_workers 2 --persistent_data_loader_workers `

--network_module lycoris.kohya `

--network_args "algo=lokr" "factor=10" "bypass_mode=False" "use_fnmatch=True" "target_module=Linear" `

"target_name=unet.transformer_blocks.*.attn.to_q" `

"target_name=unet.transformer_blocks.*.attn.to_k" `

"target_name=unet.transformer_blocks.*.attn.to_v" `

"target_name=unet.transformer_blocks.*.attn.to_out.0" `

"target_name=unet.transformer_blocks.*.attn.add_q_proj" `

"target_name=unet.transformer_blocks.*.attn.add_k_proj" `

"target_name=unet.transformer_blocks.*.attn.add_v_proj" `

"target_name=unet.transformer_blocks.*.attn.to_add_out" `

"target_name=unet.transformer_blocks.*.img_mlp.net.0.proj" `

"target_name=unet.transformer_blocks.*.img_mlp.net.2" `

--network_dim 1000000000 `

--save_every_n_steps 250 --max_train_epochs 10 --logging_dir=logs `

--output_dir Q:/AI/Models/Trained/Loras/Musubi/QwenWoman --output_name WomanGirls