GGUF_K: Flux Unchained K_M Quants

경고: 이러한 K 양자화 모델은 ComfyUI와 완벽하게 작동하지만, 아직 Forge UI에서는 작동하지 않았습니다. 이 상황이 변경되면 알려주세요. Forge UI에서 확인된 원래 비-K 양자화 모델은 여기 에서 찾을 수 있습니다.

[참고: GGUF 파일을 얻기 위해 다운로드한 파일을 압축 해제하세요. CivitAI는 이를 원활히 지원하지 않기 때문에 이 우회 방법이 필요합니다]

socalguitarist가 제작한 FluxUnchained의 GGUF 버전. 이 모델의 튜닝에 대한 공로는 그에게 있습니다. 구체적으로 이는 이 모델의 K(_M) 양자화 버전입니다. K 양자화는 동일한 모델 크기에서 일반적으로 더 나은 품질을 제공하며, 추론 속도도 약간 빠릅니다. 비-K 양자화 버전은 여기에서 찾을 수 있습니다.

이 모델은 이 커스텀 노드를 사용해 ComfyUI에서 활용할 수 있습니다. 그러나 Forge UI에서는 아직 작동하지 않았습니다.

Forge UI의 GGUF 지원 및 VAE, clip_l, t5xxl 모델 다운로드 위치에 대해 자세히 알아보려면 https://github.com/lllyasviel/stable-diffusion-webui-forge/discussions/1050를 참조하세요.

어떤 모델을 다운로드해야 할까요?

[현재 상황: 업데이트된 Comfy UI(GGUF 노드)를 사용하여 11GB VRAM을 가진 1080ti에서 모든 양자화 버전을 실행할 수 있습니다.]

사용 가능한 VRAM에 맞는 모델을 다운로드하세요. 모델이 GPU 메모리에 적합할 경우 추가 추론 비용은 매우 작습니다. 크기 순서는 Q2 < Q3 < Q4 < Q5 < Q6입니다. 그러나 텍스트와 미세한 디테일이 왜곡될 가능성이 있으므로 절실히 필요하지 않다면 Q2 및 Q3 사용을 권장하지 않습니다.

모든 라이선스 조건은 Flux.1 Dev에 적용됩니다.