Skip to main content
TomePatchModel은 추론 중 계산 비용을 줄이기 위해 확산 모델에 Token Merging(ToMe)을 적용합니다. 이는 모델의 어텐션 메커니즘 내부에서 유사한 토큰을 병합하는 방식으로 동작하므로, 모델은 출력 품질을 대부분 유지하면서 더 적은 토큰을 처리합니다.

입력

참고: 어텐션 블록의 토큰 수가 충분히 적어 다운샘플링이 필요하지 않은 경우, 병합 함수는 no-op으로 대체되며 해당 블록에서는 모델이 변경 없이 실행됩니다.

출력

이 문서는 AI에 의해 생성되었습니다. 오류를 발견하거나 개선 제안이 있으시면 기여해 주세요! GitHub에서 편집

Source fingerprint (SHA-256): 1202c0df17f357440cd156fa0920f70c18a318e32c41dc04cecff11613f0072f