Documentation Index
Fetch the complete documentation index at: /llms.txt
Use this file to discover all available pages before exploring further.
El nodo QwenImage21Cache configura la caché de prefijo KV del modelo Qwen-Image 2.1: dónde se almacenan las claves y los valores en caché y con qué precisión.
| Parámetro | Descripción | Tipo de datos | Obligatorio | Rango |
|---|---|---|---|---|
model | El modelo Qwen-Image 2.1 cuya caché de prefijo se configura. | MODEL | Sí | - |
device | Dónde se almacenan las claves y los valores en caché. "auto" (predeterminado) usa primero la VRAM libre y luego la RAM; "gpu" almacena la caché en la VRAM; "cpu" la almacena en la RAM y la precarga de forma solapada con el cómputo, lo que apenas afecta a la velocidad; "off" vuelve a calcular el prefijo en cada paso, lo que es más lento, pero es la única forma de descartar la caché por completo. | COMBO | Sí | "auto""gpu""cpu""off" |
dtype | Precisión de almacenamiento de la caché. "default" es sin pérdidas; "int8" reduce la caché a la mitad con una precisión similar a bf16; "int4" la reduce a la cuarta parte, pero aproximadamente duplica el error por paso. | COMBO | Sí | "default""int8""int4" |
| Nombre de salida | Descripción | Tipo de datos |
|---|---|---|
MODEL | El modelo con el dispositivo y la precisión de la caché aplicados, listo para el muestreo. | MODEL |
Esta documentación fue generada por IA. Si encuentra algún error o tiene sugerencias de mejora, ¡no dude en contribuir! Editar en GitHub
0c10cdb465d1ee4063273ffbb4913def3830f7e329694cd0a2e292d6f3c37ae4¿Esta página le ayudó?