GGUF: Flux Unchained

[참고: GGUF 파일을 얻기 위해 다운로드 파일을 압축 해제하세요. Civitai는 GGUF를 원래 지원하지 않기 때문에 이 작업이 필요합니다.]

socalguitarist가 제작한 FluxUnchained의 GGUF 버전. 이 모델을 조정한 것에 대한 크레딧은 그에게 귀속됩니다. 저는 이 스크립트의 수정된 버전을 사용하여 이를 GGUF 형식으로 변환했습니다.

이 모델은 이 커스텀 노드를 사용한 ComfyUI 또는 Forge UI에서 사용할 수 있습니다.

Forge UI의 GGUF 지원에 대해서 자세히 알고 싶다면, 그리고 VAE, clip_l, t5xxl 모델을 다운로드할 위치를 알고 싶다면 https://github.com/lllyasviel/stable-diffusion-webui-forge/discussions/1050을 참조하세요.

어떤 모델을 다운로드해야 할까요?

[현재 상황: 업데이트된 Forge UI 및 Comfy UI(GGUF 노드)를 사용하여 11GB VRAM을 가진 1080ti에서 Q8_0을 실행할 수 있습니다.]

당신의 VRAM 크기에 맞는 모델을 다운로드하세요. 모델이 GPU 메모리에 들어간다면 추가 추론 비용은 매우 작습니다. 크기 순서는 Q4_0 < Q4_1 < Q5_0 < Q5_1 < Q8_0입니다.

• Q4_0 및 Q4_1은 8GB VRAM에 들어갑니다.
• Q5_0 및 Q5_1은 11GB VRAM에 들어갑니다.
• Q8_0은 여유가 있다면 사용하세요!

참고: CPU 오프로딩을 사용하면 VRAM에 들어가지 않는 모델도 실행할 수 있습니다.

업데이트

V2: 원본(V1)은 fp8 체크포인트에서 생성되었습니다. 이는 이중 양자화로 인해 오차가 누적되어 선명한 이미지를 생성하지 못했습니다. V2에서는 bf16 Dev 체크포인트를 수동으로 병합한 후 GGUF를 생성했습니다. 이 버전은 더 많은 세부 정보와 훨씬 선명한 결과를 생성할 수 있습니다.

Flux.1 Dev와 관련된 모든 라이선스 조건이 적용됩니다.