FramePack ๐ img2vid / txt2vid with LoRa Workflow
์ธ๋ถ ์ ๋ณด
ํ์ผ ๋ค์ด๋ก๋
์ด ๋ฒ์ ์ ๋ํด
๋ชจ๋ธ ์ค๋ช
mmaudio๋ ์ดํ ์์ฑ ๊ณผ์ ์์ CUDA ์ฌ์ฉ ์๋๋ฅผ ๋๋ฆฌ๊ฒ ํฉ๋๋ค. ์ด๋ฏธ ์ปค์คํ ๋ ธ๋๋ฅผ git pullํ์ต๋๋ค... nodiff
1.3์ ์ด์ 1.3.1์ ๋๋ค. GIMMVIF๋ฅผ ์ ๊ฑฐํ๊ณ , RAM ๋ฌธ์ ๋ฅผ ์ผ์ผํค๋ ์ฌํ๋ ๋ ธ๋๋ฅผ ๋ค๋ฅธ ๋ ธ๋๋ก ๊ต์ฒดํ์ต๋๋ค.
์ด ์ํฌํ๋ก์ฐ๋ฅผ ์ปจํธ๋กค ํจ๋๋ก ์๊ฐํด ์ฃผ์ธ์. ๋์์ธ์ด ๋ง์์ ๋ค์ง ์์ผ๋ฉด ๋ค์ด๋ก๋ํ์ง ๋ง์ธ์. ์๋๋ ์คํฌ๋ฆฐ์ท์ ๋๋ค:

v1.3.1
- ์ด๋ฏธ์ง ๋ฆฌ์ฌ์ด์ฆ ๋ ธ๋ ์ ๋ฐ์ดํธ
- ์์ ์ด๋ฏธ์ง ์ ๋ ฅ์ฉ ๋ฐฐ์น ๋ก๋ ์ถ๊ฐ
- ๋น๋์ค๋ฅผ ์์คํธ๋ผ ์ต์ ์ผ๋ก ์ถ๊ฐ
- ๊ณ ๋ฆฝ๋ ์ผ๊ตด ๋ฆฌํ์ธ์ด ๋จ๊ณ ์ถ๊ฐ
- MMaudio ์น์ ์ถ๊ฐ (์ด ์น์ ์ ๋ชจ๋ธ์ VRAM์ ๋ก๋ํฉ๋๋ค)
- T2V์ฉ ์๊ฐ์ ํด์๋/๊ฐ๋ก์ธ๋ก ๋น์จ ์ ํ๊ธฐ ์ถ๊ฐ
- ํ๋ ์ ํธ๋ฆฌ๋ฐ ๋ ธ๋ ๋ณ๊ฒฝ
- film_net_fp32์ฉ GIMMVIF ๋ณด๊ฐ ์ ๊ฑฐ
- ์ฌํ๋ ์ด๋ฏธ์ง ๋ ธ๋๋ฅผ sharpen MTB๋ก ๊ต์ฒด
v1.2.1
- GIMMVIF ๋ณด๊ฐ ์ถ๊ฐ (ds_factor(๋ค์ด์ค์ผ์ผ๋ง)์ 0.25๋ก ์ค์ ํ๋ฉด ๋ณด๊ฐ ์๋๊ฐ ํฅ์๋์ง๋ง ํ์ง์ด ์ฝ๊ฐ ์ ํ๋จ)
- ์์ผ๋์นด๋ ํ๋ก์ธ์ค ๋ ธ๋ ์ถ๊ฐ
v1.2 ์ถ๊ฐ
- ํ๋กฌํํธ ์ ๋ ฅ ๋ฐ ๋ชจ๋ธ ๋ก๋ ์ ๋ฆฌ
- ๊ธ์ ์ ํ๋กฌํํธ์์ ์ด๋ฏธ์ง ์ธ๋ถ์ฌํญ์ ๊ฐ์ ํ๊ธฐ ์ํ CLIP VISION ์ถ๊ฐ (๋ค์ด๋ก๋)
- VRAM ์ ๋ฆฌ ๊ด๋ฆฌ ๋ ธ๋ ์ถ๊ฐ
- ๊ธธ์ด ๋ฐ latent_window_size์ฉ ์ธ๋ถ ๊ณตํต ์ ๋ ฅ๋ ์ถ๊ฐ
Kijai์ ์ํฌํ๋ก์ฐ๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ์ปค์คํ ๋ฐ ์ถ๊ฐํจ:
- ๋ชจ๋ธ ๋ฐ ๋ฆฌ์ค์ผ์ผ๋ฌ๋ฅผ ์ฌ์ฉํ ์ ์ค์ผ์ผ๋ฌ
- ์ฌํ๋์ ํฌํจํ ๋ณด๊ฐ
- ์ํ๋ฌ ์ ํ (๊ธฐ๋ณธ๊ฐ ๋๋ F1)
- ๋ชจ๋ ์ ํ (i2v ๋๋ t2v)
- ํ๋ ์ 5๊ฐ ์ ๊ฑฐ (๋น-ํํ VHS๋ ์์ ๋ถ๋ถ์์, ํํ VHS๋ ์์๊ณผ ๋์์ ์ ๊ฑฐ) โ ์ด ์ค์ ์ ๊ธฐ๋ณธ์ ์ผ๋ก t2v์์ 40ํ๋ ์์ผ๋ก ๋์ด ์์
- ์ผ๊ตด ๊ต์ฒด/๋ฆฌํ์ธ์ ์ํ Reactor ๋ ธ๋ ์ถ๊ฐ (๋จ, ์ผ๋ถ ๋ฒ๊ทธ๋ก ์ธํด ์ดํ ์์ฑ์ด ๋๋ ค์ง. ์ํ๋ค๋ฉด Reactor ๋ ธ๋๋ฅผ ์์ ๋กญ๊ฒ ์ญ์ ํด๋ ๋จ...)
F1 ์ํ๋ฌ๋ฅผ ์ฌ์ฉํ ํ ์คํธ-๋น๋์ค ๋ชจ๋:

ํ๋ ์ํฉ ํ ์คํธ ์ธ์ฝ๋(ํ์์คํฌํ ํ์)(F1์ฉ ํ๋กฌํํธ) ์์ ๋ง์ฐ์ค๋ฅผ ์ฌ๋ฆฌ๋ฉด ํ๋กฌํํธ์ ํ์์คํฌํ ํจํด์ ๋ํ ์์ธํ ์ ๋ณด๋ฅผ ํ์ธํ ์ ์์ต๋๋ค:

* ์ถ๊ฐ๋ก ํ์ํ ์ปค์คํ
๋
ธ๋ ๋งํฌ๊ฐ ์๋ค๋ฉด ์๋ ค์ฃผ์ธ์, ์ถ๊ฐํ๊ฒ ์ต๋๋ค.
๋ํ ํ์ฌ ๋ํผ์ ๋ฒ๊ทธ๊ฐ ์์ด CFG๋ฅผ 1(๊ธฐ๋ณธ๊ฐ) ์ด์์ผ๋ก ์ฆ๊ฐ์ํค๋ฉด ์ถ๋ก ์๊ฐ์ด 2๋ฐฐ๋ก ๋์ด๋ฉ๋๋ค. ์ด ์ํฌํ๋ก์ฐ๋ฅผ ์์ ํ๋ ์ ์ผํ ๋ฐฉ๋ฒ์ ์๋ก์ด ์ํ๋ฌ๋ฅผ ์ถ๊ฐํ๊ณ ์ฐ๊ฒฐ์ ์ฌ๋ฐฐ์นํ๋ ๊ฒ์ด๋ฉฐ, Comfy๋ฅผ ์ฌ์์ํด๋ ํด๊ฒฐ๋์ง ์์ต๋๋ค. ์ํ๊น์ง๋ง ํ์ฌ ์ํ๋ ๊ทธ๋๋ก์
๋๋ค..
๋ ธ๋:
์ต์ Kijai ๋ํผ ๋ฒ์ : https://github.com/kijai/ComfyUI-FramePackWrapper.git
F1 ์ํ๋ฌ: https://github.com/kijai/ComfyUI-FramePackWrapper/pull/14/files
๋ค์๋ ์ฌ์ฉ ๊ฐ๋ฅ:
https://github.com/ShmuelRonen/ComfyUI-FramePackWrapper_Plus
GIMMVIF:
[https://github.com/kijai/ComfyUI-GIMM-VFI] (์๋ ๋ค์ด๋ก๋ ํฌํจ ๋ชจ๋ธ)
๋ชจ๋ธ ๋งํฌ:
https://huggingface.co/Kijai/HunyuanVideo_comfy/blob/main/FramePackI2V_HY_fp8_e4m3fn.safetensors
https://huggingface.co/Kijai/HunyuanVideo_comfy/blob/main/FramePackI2V_HY_bf16.safetensors
sigclip:
https://huggingface.co/Comfy-Org/sigclip_vision_384/tree/main
ํ ์คํธ ์ธ์ฝ๋ ๋ฐ VAE:
https://huggingface.co/Comfy-Org/HunyuanVideo_repackaged/tree/main/split_files
