Runway 是一家专注于生成式 AI 的科技公司,提供强大的视频生成功能。目前 ComfyUI 已集成 Runway API,你可以直接在 ComfyUI 中使用相关节点进行视频生成。 目前 ComfyUI 中原生集成了 Runway 的以下视频生成模型:
  • Runway Gen3a turbo
  • Runway Gen4 turbo
  • Runway First Last Frame to video
使用 API 节点需要保证你已经正常登录,并在受许可的网络环境下使用,请参考API 节点总览部分文档来了解使用 API 节点的具体使用要求。
如果在加载下面的工作流文件时,你发现存在节点缺失,可能是因为以下情况:
  1. 你使用的 ComfyUI 版本不是最新的开发(nightly)版本。
  2. 你使用的 ComfyUI 版本是稳定(release)版本或桌面版(desktop)版本(不包含最新的功能更新)。
  3. 你使用的 ComfyUI 版本是最新的 commit 版本,但在启动过程中部分节点导入失败了。
请先确保你已经成功更新 ComfyUI 到最新的开发(nightly)版本, 请查看:如何更新 ComfyUI 部分了解如何更新 ComfyUI。

Gen3a turbo 图生视频工作流

1. 工作流文件下载

下面的视频的metadata中已经包含工作流信息,请下载并拖入 ComfyUI 中加载对应工作流。

下载 Json 格式工作流文件

下载下面的图片作为输入图片 ComfyUI Runway gen3a turbo image to video Input Image

2. 按步骤完成工作流的运行

ComfyUI Runway gen3a turbo image to video Step Guide 你可参考图片中的序号来完成最基础的文生图工作流运行:
  1. Load Image 节点中加载提供的输入图片
  2. Runway Gen3a turbo 节点中设置 prompt 描述视频内容,修改 duration 参数来设置视频时长, 修改 ratio 参数来设置视频宽高比
  3. 点击 Run 按钮,或者使用快捷键 Ctrl(cmd) + Enter(回车) 来执行视频的生成。
  4. 等待 API 返回结果后,你可在 Save Video 节点中查看生成的视频(右键菜单可以保存),对应的视频也会被保存至 ComfyUI/output/ 目录下。

Gen4 turbo 图生视频工作流

1. 工作流文件下载

下面的视频的metadata中已经包含工作流信息,请下载并拖入 ComfyUI 中加载对应工作流。

下载 Json 格式工作流文件

下载下面的图片作为输入图片 ComfyUI Runway gen4 turbo image to video Input Image

2. 按步骤完成工作流的运行

ComfyUI Runway gen4 turbo image to video Step Guide 你可参考图片中的序号来完成最基础的文生图工作流运行:
  1. Load Image 节点中加载提供的输入图片
  2. Runway Gen4 turbo 节点中设置 prompt 描述视频内容,修改 duration 参数来设置视频时长, 修改 ratio 参数来设置视频宽高比
  3. 点击 Run 按钮,或者使用快捷键 Ctrl(cmd) + Enter(回车) 来执行视频的生成。
  4. 等待 API 返回结果后,你可在 Save Video 节点中查看生成的视频(右键菜单可以保存),对应的视频也会被保存至 ComfyUI/output/ 目录下。

首尾帧视频生成工作流

1. 工作流文件下载

下面的视频的metadata中已经包含工作流信息,请下载并拖入 ComfyUI 中加载对应工作流。

下载 Json 格式工作流文件

下载下面的图片作为输入图片 ComfyUI Runway gen4 turbo image to video Input Image ComfyUI Runway gen4 turbo image to video Input Image

2. 按步骤完成工作流的运行

ComfyUI Runway gen4 turbo image to video Step Guide 你可参考图片中的序号来完成最基础的文生图工作流运行:
  1. Load Image 节点中加载起始帧
  2. Load Image 节点中加载结束帧
  3. Runway First-Last-Frame to Video 节点中设置 prompt 描述视频内容,修改 duration 参数来设置视频时长, 修改 ratio 参数来设置视频宽高比
  4. 点击 Run 按钮,或者使用快捷键 Ctrl(cmd) + Enter(回车) 来执行视频的生成。
  5. 等待 API 返回结果后,你可在 Save Video 节点中查看生成的视频(右键菜单可以保存),对应的视频也会被保存至 ComfyUI/output/ 目录下。