跳转到主要内容
Wan Dancer 是一款基于 Wan万相 2.2 架构的音频驱动舞蹈视频生成模型。它采用分层框架,包含全局专家模型和局部专家模型,能够生成与输入音乐同步的连贯、富有表现力的舞蹈视频。 给定角色参考图像和音频轨道,Wan Dancer 会生成一段舞蹈视频,其中角色的动作与音乐的节奏和风格相匹配。全局模型捕捉整体舞蹈结构和身体协调性,局部模型则优化细粒度的动作细节,以实现自然、高质量的输出。

模型亮点

  • 音频驱动的舞蹈生成:直接从音乐生成舞蹈动作,无需手动关键帧或动作捕获
  • 分层框架:两阶段架构(全局+局部),实现连贯的身体运动和精细的动作优化
  • 音乐同步输出:舞蹈动作自然对齐到输入音频的节奏和速度
  • 风格控制:可配置的舞蹈风格和动作幅度,提供创意方向
  • 分钟级生成:生成长格式连贯舞蹈视频,全时段保持时空一致性

工作流总览

Wan万相 Dancer 工作流接受两个输入:角色参考图像和一个音频文件。它生成两个视频输出:一个全局输出预览,展示整体舞蹈结构;以及一个最终精炼输出,带有增强的动作细节。
请确保你的 ComfyUI 已经更新。本指南里的工作流可以在 ComfyUI 的工作流模板中找到。如果找不到,可能是 ComfyUI 没有更新。如果加载工作流时有节点缺失,可能原因有:
  1. 你用的不是最新开发版(nightly)。
  2. 你用的是稳定版或桌面版(没有包含最新的更新)。
  3. 启动时有些节点导入失败。

Wan Dancer 工作流

1. 下载工作流文件

将 ComfyUI 更新至最新版本,然后下载工作流文件并拖入 ComfyUI,或通过 工作流浏览模板视频 在模板库中找到“Wan Dancer”。

在 Comfy Cloud 上运行

在 Comfy Cloud 中运行

下载工作流

下载 JSON 或在模板库中搜索 “Wan Dancer”

2. 下载输入素材

参考图像:blue_dancer.png

用于舞蹈生成的输入角色图像。下载使用此图像,或替换为你自己的图像。

参考音频

用于舞蹈同步的参考音频轨道。下载使用此音频,或替换为你自己的音乐。

3. 手动下载模型

扩散模型 LoRA 文本编码器 CLIP 视觉 VAE

4. 工作流说明

Wan Dancer 一次性采样 149 帧,因此需要大量显存。默认工作流输出为 5 秒视频。运行此工作流前,请确保你的 GPU 拥有足够的显存。
  1. 加载参考图像:使用“加载图像”节点上传角色图像。默认输入为 blue_dancer.png
  2. 加载音频文件:使用“加载音频”节点上传音乐或音频轨道。默认输入为 wan_dancer_reference_audio.mp3
  3. 配置舞蹈参数
    • dance_style:选择输出视频的舞蹈风格
    • motion_amplitude:控制舞蹈动作的强度
    • audio_duration:设置为与输入音频的时长匹配
    • final_duration:选择最终输出视频的时长
  4. 配置输出尺寸
    • widthheight:设置输出视频的分辨率。请根据 GPU 的可用显存选择合适的值。
  5. 验证模型路径:确保模型选择器指向正确的模型文件:
    • global_model:应加载 wan2.2_dancer_14b_global_fp8_scaled.safetensors
    • local_model:应加载 wan2.2_dancer_14b_local_fp8_scaled.safetensors
    • lightning_lora:应加载 lightx2v_I2V_14B_480p_cfg_step_distill_rank64_bf16.safetensors
    • clip_vision:应加载 clip_vision_h.safetensors
  6. 运行生成:点击“运行”按钮或使用快捷键 Ctrl(Cmd) + Enter 执行视频生成。

5. 输出

工作流产生两个视频输出:
  • 全局输出预览:显示全局模型生成的舞蹈整体结构
  • 最终输出:经局部模型优化后的精细舞蹈视频
两个输出均通过 SaveVideo 节点自动保存。

模型信息

Wan Dancer 是一个基于 Apache 2.0 许可证发布的开源模型。模型权重可在 Hugging Face 上获取:

反馈问题

如果您遇到运行时错误或意外行为:
  • 确保 ComfyUI 已更新到最新版本
  • 检查所有必填模型是否已下载并放置在正确的目录中
  • 对于桌面/云端用户:更新跟随稳定版本发布,因此每夜支持的模型可能无法立即使用
反馈问题至:ComfyUI/issues