Runway API 节点 视频生成 ComfyUI 官方示例
本文将介绍如何在 ComfyUI 中使用 Runway 节点进行视频生成的相关工作流
Runway 是一家专注于生成式 AI 的科技公司,提供强大的视频生成功能。目前 ComfyUI 已集成 Runway API,你可以直接在 ComfyUI 中使用相关节点进行视频生成。
目前 ComfyUI 中原生集成了 Runway 的以下视频生成模型:
- Runway Gen3a turbo
- Runway Gen4 turbo
- Runway First Last Frame to video
使用 API 节点需要保证你已经正常登录,并在受许可的网络环境下使用,请参考API 节点总览部分文档来了解使用 API 节点的具体使用要求。
Gen3a turbo 图生视频工作流
1. 工作流文件下载
下面的视频的metadata
中已经包含工作流信息,请下载并拖入 ComfyUI 中加载对应工作流。
下载 Json 格式工作流文件
下载下面的图片作为输入图片
2. 按步骤完成工作流的运行
你可参考图片中的序号来完成最基础的文生图工作流运行:
- 在
Load Image
节点中加载提供的输入图片 - 在
Runway Gen3a turbo
节点中设置prompt
描述视频内容,修改duration
参数来设置视频时长, 修改ratio
参数来设置视频宽高比 - 点击
Run
按钮,或者使用快捷键Ctrl(cmd) + Enter(回车)
来执行视频的生成。 - 等待 API 返回结果后,你可在
Save Video
节点中查看生成的视频(右键菜单可以保存),对应的视频也会被保存至ComfyUI/output/
目录下。
Gen4 turbo 图生视频工作流
1. 工作流文件下载
下面的视频的metadata
中已经包含工作流信息,请下载并拖入 ComfyUI 中加载对应工作流。
下载 Json 格式工作流文件
下载下面的图片作为输入图片
2. 按步骤完成工作流的运行
你可参考图片中的序号来完成最基础的文生图工作流运行:
- 在
Load Image
节点中加载提供的输入图片 - 在
Runway Gen4 turbo
节点中设置prompt
描述视频内容,修改duration
参数来设置视频时长, 修改ratio
参数来设置视频宽高比 - 点击
Run
按钮,或者使用快捷键Ctrl(cmd) + Enter(回车)
来执行视频的生成。 - 等待 API 返回结果后,你可在
Save Video
节点中查看生成的视频(右键菜单可以保存),对应的视频也会被保存至ComfyUI/output/
目录下。
首尾帧视频生成工作流
1. 工作流文件下载
下面的视频的metadata
中已经包含工作流信息,请下载并拖入 ComfyUI 中加载对应工作流。
下载 Json 格式工作流文件
下载下面的图片作为输入图片
2. 按步骤完成工作流的运行
你可参考图片中的序号来完成最基础的文生图工作流运行:
- 在
Load Image
节点中加载起始帧 - 在
Load Image
节点中加载结束帧 - 在
Runway First-Last-Frame to Video
节点中设置prompt
描述视频内容,修改duration
参数来设置视频时长, 修改ratio
参数来设置视频宽高比 - 点击
Run
按钮,或者使用快捷键Ctrl(cmd) + Enter(回车)
来执行视频的生成。 - 等待 API 返回结果后,你可在
Save Video
节点中查看生成的视频(右键菜单可以保存),对应的视频也会被保存至ComfyUI/output/
目录下。