El nodo UNetCrossAttentionMultiply aplica factores de multiplicación al mecanismo de atención cruzada en un modelo UNet.
El nodo UNetCrossAttentionMultiply aplica factores de multiplicación al mecanismo de atención cruzada en un modelo UNet. Permite escalar los componentes de consulta, clave, valor y salida de las capas de atención cruzada para experimentar con diferentes comportamientos y efectos de atención.
Entradas
Parámetro
Descripción
Tipo de Dato
Obligatorio
Rango
modelo
El modelo UNet a modificar con factores de escala de atención
MODEL
Sí
-
q
Factor de escala para componentes de consulta en atención cruzada (predeterminado: 1.0)
FLOAT
No
0.0 - 10.0
k
Factor de escala para componentes de clave en atención cruzada (predeterminado: 1.0)
FLOAT
No
0.0 - 10.0
v
Factor de escala para componentes de valor en atención cruzada (predeterminado: 1.0)
FLOAT
No
0.0 - 10.0
salida
Factor de escala para componentes de salida en atención cruzada (predeterminado: 1.0)
FLOAT
No
0.0 - 10.0
Salidas
Nombre de Salida
Descripción
Tipo de Dato
modelo
El modelo UNet modificado con componentes de atención cruzada escalados
MODEL
Esta documentación fue generada por IA. Si encuentra algún error o tiene sugerencias de mejora, ¡no dude en contribuir! Editar en GitHub