Wan2_2-Animate-14B_fp8_e5m2_scaled_KJ.safetensors
세부 정보
파일 다운로드
모델 설명
HuggingFace에서 전송
https://huggingface.co/Kijai/WanVideo_comfy_fp8_scaled/tree/main/Wan22Animate
Wan-Animate: 통합 캐릭터 애니메이션 및 교체를 위한 전체적 복제
샘플 워크플로우: https://www.runninghub.ai/post/1969068684759212034
(이 워크플로우는 KJ 디스코드에서 가져온 것으로 아직 실험 단계이며, 여러분도 자체적으로 시도해 볼 수 있습니다.)
기능 개요
Wan-Animate은 참조 영상의 연기자의 표정과 움직임을 정밀하게 복제하여 어떤 캐릭터도 애니메이션화할 수 있으며, 매우 사실적인 캐릭터 영상을 생성합니다.
Wan-Animate은 영상 내 캐릭터를 애니메이션화된 캐릭터로 교체할 수 있으며, 원래의 표정과 움직임을 유지하면서도 조명과 색조를 복제하여 자연스러운 환경 통합을 구현합니다.
요약
우리는 캐릭터 애니메이션과 교체를 위한 통합 프레임워크인 Wan-Animate을 도입합니다. 주어진 캐릭터 이미지와 참조 영상에 대해, Wan-Animate은 영상 내 캐릭터의 표현과 움직임을 정밀하게 복제하여 고품질의 캐릭터 영상을 생성할 수 있습니다. 또는, 이 애니메이션화된 캐릭터를 참조 영상에 통합하여 원래 캐릭터를 교체하고, 장면의 조명과 색조를 복제하여 자연스러운 환경 통합을 달성할 수 있습니다. Wan-Animate은 Wan 모델을 기반으로 구축되었습니다. 캐릭터 애니메이션 작업에 적응하기 위해, 우리는 참조 조건과 생성 영역을 구분하기 위해 수정된 입력 패러다임을 사용합니다. 이 설계는 여러 작업을 공통의 기호 표현으로 통합합니다. 우리는 공간적으로 정렬된 스켈레톤 신호를 사용하여 신체 움직임을 복제하고, 소스 이미지에서 추출한 암시적 얼굴 특징을 사용하여 표현을 재연함으로써 높은 제어성과 표현력을 갖춘 캐릭터 영상을 생성합니다. 또한, 캐릭터 교체 시 환경 통합을 향상시키기 위해 보조적인 Relighting LoRA를 개발했습니다. 이 모듈은 캐릭터 외관의 일관성을 유지하면서 적절한 환경 조명과 색조를 적용합니다. 실험 결과는 Wan-Animate이 최첨단 성능을 달성함을 보여줍니다. 우리는 모델 가중치와 소스 코드를 오픈소스로 공개할 것을 약속합니다.