Skip to main content
TomePatchModel aplica Token Merging (ToMe) a un modelo de difusión para reducir el costo computacional durante la inferencia. Funciona fusionando tokens similares dentro del mecanismo de atención del modelo, de modo que este procesa menos tokens mientras mantiene en gran medida la calidad de la salida.

Entradas

Nota: Si la cantidad de tokens en un bloque de atención es lo suficientemente pequeña como para que no se necesite reducción de resolución, las funciones de fusión se reemplazan por operaciones nulas y el modelo se ejecuta sin cambios para ese bloque.

Salidas

Esta documentación fue generada por IA. Si encuentra algún error o tiene sugerencias de mejora, ¡no dude en contribuir! Editar en GitHub

Source fingerprint (SHA-256): 1202c0df17f357440cd156fa0920f70c18a318e32c41dc04cecff11613f0072f