FramePack ๐Ÿ’Ž img2vid / txt2vid with LoRa Workflow

์„ธ๋ถ€ ์ •๋ณด

ํŒŒ์ผ ๋‹ค์šด๋กœ๋“œ

๋ชจ๋ธ ์„ค๋ช…

mmaudio๋Š” ์ดํ›„ ์ƒ์„ฑ ๊ณผ์ •์—์„œ CUDA ์‚ฌ์šฉ ์†๋„๋ฅผ ๋А๋ฆฌ๊ฒŒ ํ•ฉ๋‹ˆ๋‹ค. ์ด๋ฏธ ์ปค์Šคํ…€ ๋…ธ๋“œ๋ฅผ git pullํ–ˆ์Šต๋‹ˆ๋‹ค... nodiff

1.3์€ ์ด์ œ 1.3.1์ž…๋‹ˆ๋‹ค. GIMMVIF๋ฅผ ์ œ๊ฑฐํ•˜๊ณ , RAM ๋ฌธ์ œ๋ฅผ ์ผ์œผํ‚ค๋˜ ์‰ฌํ”„๋‹ ๋…ธ๋“œ๋ฅผ ๋‹ค๋ฅธ ๋…ธ๋“œ๋กœ ๊ต์ฒดํ–ˆ์Šต๋‹ˆ๋‹ค.

์ด ์›Œํฌํ”Œ๋กœ์šฐ๋ฅผ ์ปจํŠธ๋กค ํŒจ๋„๋กœ ์ƒ๊ฐํ•ด ์ฃผ์„ธ์š”. ๋””์ž์ธ์ด ๋งˆ์Œ์— ๋“ค์ง€ ์•Š์œผ๋ฉด ๋‹ค์šด๋กœ๋“œํ•˜์ง€ ๋งˆ์„ธ์š”. ์•„๋ž˜๋Š” ์Šคํฌ๋ฆฐ์ƒท์ž…๋‹ˆ๋‹ค:

v1.3.1

  • ์ด๋ฏธ์ง€ ๋ฆฌ์‚ฌ์ด์ฆˆ ๋…ธ๋“œ ์—…๋ฐ์ดํŠธ
  • ์‹œ์ž‘ ์ด๋ฏธ์ง€ ์ž…๋ ฅ์šฉ ๋ฐฐ์น˜ ๋กœ๋” ์ถ”๊ฐ€
  • ๋น„๋””์˜ค๋ฅผ ์—‘์ŠคํŠธ๋ผ ์˜ต์…˜์œผ๋กœ ์ถ”๊ฐ€
  • ๊ณ ๋ฆฝ๋œ ์–ผ๊ตด ๋ฆฌํŒŒ์ธ์–ด ๋‹จ๊ณ„ ์ถ”๊ฐ€
  • MMaudio ์„น์…˜ ์ถ”๊ฐ€ (์ด ์„น์…˜์€ ๋ชจ๋ธ์„ VRAM์— ๋กœ๋“œํ•ฉ๋‹ˆ๋‹ค)
  • T2V์šฉ ์‹œ๊ฐ์  ํ•ด์ƒ๋„/๊ฐ€๋กœ์„ธ๋กœ ๋น„์œจ ์„ ํƒ๊ธฐ ์ถ”๊ฐ€
  • ํ”„๋ ˆ์ž„ ํŠธ๋ฆฌ๋ฐ ๋…ธ๋“œ ๋ณ€๊ฒฝ
  • film_net_fp32์šฉ GIMMVIF ๋ณด๊ฐ„ ์ œ๊ฑฐ
  • ์‰ฌํ”„๋‹ ์ด๋ฏธ์ง€ ๋…ธ๋“œ๋ฅผ sharpen MTB๋กœ ๊ต์ฒด

v1.2.1

  • GIMMVIF ๋ณด๊ฐ„ ์ถ”๊ฐ€ (ds_factor(๋‹ค์šด์Šค์ผ€์ผ๋ง)์„ 0.25๋กœ ์„ค์ •ํ•˜๋ฉด ๋ณด๊ฐ„ ์†๋„๊ฐ€ ํ–ฅ์ƒ๋˜์ง€๋งŒ ํ’ˆ์งˆ์ด ์•ฝ๊ฐ„ ์ €ํ•˜๋จ)
  • ์™€์ผ๋“œ์นด๋“œ ํ”„๋กœ์„ธ์Šค ๋…ธ๋“œ ์ถ”๊ฐ€

v1.2 ์ถ”๊ฐ€

  • ํ”„๋กฌํ”„ํŠธ ์ž…๋ ฅ ๋ฐ ๋ชจ๋ธ ๋กœ๋” ์ •๋ฆฌ
  • ๊ธ์ •์  ํ”„๋กฌํ”„ํŠธ์—์„œ ์ด๋ฏธ์ง€ ์„ธ๋ถ€์‚ฌํ•ญ์„ ๊ฐœ์„ ํ•˜๊ธฐ ์œ„ํ•œ CLIP VISION ์ถ”๊ฐ€ (๋‹ค์šด๋กœ๋“œ)
  • VRAM ์ •๋ฆฌ ๊ด€๋ฆฌ ๋…ธ๋“œ ์ถ”๊ฐ€
  • ๊ธธ์ด ๋ฐ latent_window_size์šฉ ์™ธ๋ถ€ ๊ณตํ†ต ์ž…๋ ฅ๋„ ์ถ”๊ฐ€

Kijai์˜ ์›Œํฌํ”Œ๋กœ์šฐ๋ฅผ ๊ธฐ๋ฐ˜์œผ๋กœ ์ปค์Šคํ…€ ๋ฐ ์ถ”๊ฐ€ํ•จ:

  • ๋ชจ๋ธ ๋ฐ ๋ฆฌ์Šค์ผ€์ผ๋Ÿฌ๋ฅผ ์‚ฌ์šฉํ•œ ์—…์Šค์ผ€์ผ๋Ÿฌ
  • ์‰ฌํ”„๋‹์„ ํฌํ•จํ•œ ๋ณด๊ฐ„
  • ์ƒ˜ํ”Œ๋Ÿฌ ์ „ํ™˜ (๊ธฐ๋ณธ๊ฐ’ ๋˜๋Š” F1)
  • ๋ชจ๋“œ ์ „ํ™˜ (i2v ๋˜๋Š” t2v)
  • ํ”„๋ ˆ์ž„ 5๊ฐœ ์ œ๊ฑฐ (๋น„-ํ•‘ํ VHS๋Š” ์‹œ์ž‘ ๋ถ€๋ถ„์—์„œ, ํ•‘ํ VHS๋Š” ์‹œ์ž‘๊ณผ ๋์—์„œ ์ œ๊ฑฐ) โ€” ์ด ์„ค์ •์€ ๊ธฐ๋ณธ์ ์œผ๋กœ t2v์—์„œ 40ํ”„๋ ˆ์ž„์œผ๋กœ ๋˜์–ด ์žˆ์Œ
  • ์–ผ๊ตด ๊ต์ฒด/๋ฆฌํŒŒ์ธ์„ ์œ„ํ•œ Reactor ๋…ธ๋“œ ์ถ”๊ฐ€ (๋‹จ, ์ผ๋ถ€ ๋ฒ„๊ทธ๋กœ ์ธํ•ด ์ดํ›„ ์ƒ์„ฑ์ด ๋А๋ ค์ง. ์›ํ•œ๋‹ค๋ฉด Reactor ๋…ธ๋“œ๋ฅผ ์ž์œ ๋กญ๊ฒŒ ์‚ญ์ œํ•ด๋„ ๋จ...)

F1 ์ƒ˜ํ”Œ๋Ÿฌ๋ฅผ ์‚ฌ์šฉํ•œ ํ…์ŠคํŠธ-๋น„๋””์˜ค ๋ชจ๋“œ:

ํ”„๋ ˆ์ž„ํŒฉ ํ…์ŠคํŠธ ์ธ์ฝ”๋”(ํƒ€์ž„์Šคํƒฌํ”„ ํ‘œ์‹œ)(F1์šฉ ํ”„๋กฌํ”„ํŠธ) ์œ„์— ๋งˆ์šฐ์Šค๋ฅผ ์˜ฌ๋ฆฌ๋ฉด ํ”„๋กฌํ”„ํŠธ์˜ ํƒ€์ž„์Šคํƒฌํ”„ ํŒจํ„ด์— ๋Œ€ํ•œ ์ž์„ธํ•œ ์ •๋ณด๋ฅผ ํ™•์ธํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค:

* ์ถ”๊ฐ€๋กœ ํ•„์š”ํ•œ ์ปค์Šคํ…€ ๋…ธ๋“œ ๋งํฌ๊ฐ€ ์žˆ๋‹ค๋ฉด ์•Œ๋ ค์ฃผ์„ธ์š”, ์ถ”๊ฐ€ํ•˜๊ฒ ์Šต๋‹ˆ๋‹ค.
๋˜ํ•œ ํ˜„์žฌ ๋ž˜ํผ์— ๋ฒ„๊ทธ๊ฐ€ ์žˆ์–ด CFG๋ฅผ 1(๊ธฐ๋ณธ๊ฐ’) ์ด์ƒ์œผ๋กœ ์ฆ๊ฐ€์‹œํ‚ค๋ฉด ์ถ”๋ก  ์‹œ๊ฐ„์ด 2๋ฐฐ๋กœ ๋Š˜์–ด๋‚ฉ๋‹ˆ๋‹ค. ์ด ์›Œํฌํ”Œ๋กœ์šฐ๋ฅผ ์ˆ˜์ •ํ•˜๋Š” ์œ ์ผํ•œ ๋ฐฉ๋ฒ•์€ ์ƒˆ๋กœ์šด ์ƒ˜ํ”Œ๋Ÿฌ๋ฅผ ์ถ”๊ฐ€ํ•˜๊ณ  ์—ฐ๊ฒฐ์„ ์žฌ๋ฐฐ์น˜ํ•˜๋Š” ๊ฒƒ์ด๋ฉฐ, Comfy๋ฅผ ์žฌ์‹œ์ž‘ํ•ด๋„ ํ•ด๊ฒฐ๋˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ์•ˆํƒ€๊น์ง€๋งŒ ํ˜„์žฌ ์ƒํƒœ๋Š” ๊ทธ๋Œ€๋กœ์ž…๋‹ˆ๋‹ค..

๋…ธ๋“œ:

์ตœ์‹  Kijai ๋ž˜ํผ ๋ฒ„์ „: https://github.com/kijai/ComfyUI-FramePackWrapper.git

F1 ์ƒ˜ํ”Œ๋Ÿฌ: https://github.com/kijai/ComfyUI-FramePackWrapper/pull/14/files

๋‹ค์Œ๋„ ์‚ฌ์šฉ ๊ฐ€๋Šฅ:

https://github.com/ShmuelRonen/ComfyUI-FramePackWrapper_Plus

GIMMVIF:

[https://github.com/kijai/ComfyUI-GIMM-VFI] (์ž๋™ ๋‹ค์šด๋กœ๋“œ ํฌํ•จ ๋ชจ๋ธ)

๋ชจ๋ธ ๋งํฌ:

https://huggingface.co/Kijai/HunyuanVideo_comfy/blob/main/FramePackI2V_HY_fp8_e4m3fn.safetensors

https://huggingface.co/Kijai/HunyuanVideo_comfy/blob/main/FramePackI2V_HY_bf16.safetensors

sigclip:

https://huggingface.co/Comfy-Org/sigclip_vision_384/tree/main

ํ…์ŠคํŠธ ์ธ์ฝ”๋” ๋ฐ VAE:

https://huggingface.co/Comfy-Org/HunyuanVideo_repackaged/tree/main/split_files


์ด ๋ชจ๋ธ๋กœ ๋งŒ๋“  ์ด๋ฏธ์ง€

์ด๋ฏธ์ง€๋ฅผ ์ฐพ์„ ์ˆ˜ ์—†์Šต๋‹ˆ๋‹ค.