TorchCompileModel 노드
TorchCompileModel 노드는 PyTorch 컴파일을 모델에 적용하여 성능을 최적화합니다. 입력 모델의 복사본을 생성하고 지정된 백엔드를 사용하여 PyTorch의 컴파일 기능으로 감쌉니다. 이를 통해 추론 중 모델의 실행 속도를 향상시킬 수 있습니다.입력
| 매개변수 | 설명 | 데이터 타입 | 필수 | 범위 |
|---|---|---|---|---|
모델 | 컴파일 및 최적화할 모델 | MODEL | 예 | - |
백엔드 | 최적화에 사용할 PyTorch 컴파일 백엔드 (기본값: “inductor”) | STRING | 예 | ”inductor" "cudagraphs” |
출력
| 출력 이름 | 설명 | 데이터 타입 |
|---|---|---|
모델 | PyTorch 컴파일이 적용된 컴파일된 모델 | MODEL |
이 문서는 AI에 의해 생성되었습니다. 오류를 발견하거나 개선 제안이 있으시면 기여해 주세요! GitHub에서 편집
Source fingerprint (SHA-256):
923e71b528e6e53468916f74c2a02924bf51738f29e36638312c6da6357fcedb