Image-to-video Comparison Workflow

详情

模型描述

概述

本工作流是为对比支持“图像转视频”的多种技术而设计的实验性流程。实际上,它允许从单张图像出发,将以下四种技术生成的结果合成到一个视频中:

  • AnimateLCM
  • SVD XT 1.1
  • ToonCrafter
  • FILM 插值

由于 ToonCrafter 和 FILM 插值都需要至少两帧才能生成较佳效果,因此本流程使用 SVD 生成的最后一帧,通过 img2img 通道结合 IPAdapter 和 ControlNet,以保持风格与构图一致性,同时修正 SVD 所导致的“烧屏”效应。

本工作流主要针对 SDXL 设计(AnimateLCM 除外),但也可轻松调整以适配 SD1.5。

工作流将输出所有中间视频及最终合成结果,保存在 ComfyUI 输出文件夹中名为 vidcmp 的子文件夹内,该子文件夹以当天日期命名。

该流程已在配备 24GB 显存的 RTX 3090 上测试通过。

使用方法

基础图像

这是工作流的起点,用于选择基础模型、LoRA、图像分辨率等,并组合正向与负向提示词。以下是本工作流生成的一些基础图像示例:

AnimateLCM

此部分生成 AnimateLCM 视频,采用稀疏涂鸦 ControlNet 和 IPAdapter Tiled 以确保生成视频与原图保持一致。如希望增加自由度,可降低权重。此外,还有一个 Mutival Dynamic 节点可供调整,以增强或减弱运动效果。

本组包含两次采样过程及一次最终上采样,以将视频恢复至原始分辨率。

SVD XT 1.1

此组使用 SVD XT 1.1 技术生成视频,并附加一次上采样处理。

LastFrameFix

本组唯一目的是获取 SVD 视频的最后一帧,通过 img2img 重新渲染以提升画质,因为 SVD 视频在末尾常出现过度变形和“烧屏”现象。

本组使用两个 ControlNet(深度与边缘)和一个 IPAdapter 以保持风格一致性。

图中包含一个比较器节点,可用于对比优化前后图像的效果。

ToonCrafter

本组生成 ToonCrafter 视频。若出现内存不足错误,请尝试重新运行工作流,或降低名为 “ImageScaleToTotalPixels” 的节点中的图像分辨率。

本组需要两张输入图像:工作流开始时创建的基础图像,以及经 SVD XT 优化后的最后一帧。

此外,ToonCrafter 是四种技术中唯一仅能生成固定帧数(16帧)的方案。为匹配 AnimateLCM 和 SVD XT 的帧数,工作流将循环重复生成批次。

FILM

本组负责 FILM 的视频帧插值。输入为两张图像:工作流开始时创建的基础图像,以及经 SVD XT 优化后的最后一帧。

最终合成

本部分将生成一个 2x2 的视频,对比全部四种图像转视频技术,并将所有视频拼接为一个最终合成视频。

此模型生成的图像

未找到图像。