El nodo UNetSelfAttentionMultiply aplica factores de multiplicación a los componentes de consulta, clave
El nodo UNetSelfAttentionMultiply aplica factores de multiplicación a los componentes de consulta, clave, valor y salida del mecanismo de autoatención en un modelo UNet. Permite escalar diferentes partes del cálculo de atención para experimentar cómo los pesos de atención afectan el comportamiento del modelo.
Entradas
Parámetro
Descripción
Tipo de Dato
Obligatorio
Rango
modelo
El modelo UNet a modificar con factores de escala de atención
MODEL
Sí
-
q
Factor de multiplicación para el componente de consulta (predeterminado: 1.0)
FLOAT
No
0.0 - 10.0
k
Factor de multiplicación para el componente de clave (predeterminado: 1.0)
FLOAT
No
0.0 - 10.0
v
Factor de multiplicación para el componente de valor (predeterminado: 1.0)
FLOAT
No
0.0 - 10.0
salida
Factor de multiplicación para el componente de salida (predeterminado: 1.0)
FLOAT
No
0.0 - 10.0
Salidas
Nombre de Salida
Descripción
Tipo de Dato
MODEL
El modelo UNet modificado con componentes de atención escalados
MODEL
Esta documentación fue generada por IA. Si encuentra algún error o tiene sugerencias de mejora, ¡no dude en contribuir! Editar en GitHub