입력
샘플링 매개변수 (sampling_mode가 "on"일 때)
참고: 위 샘플링 매개변수는
sampling_mode가 "on"일 때만 존재합니다. "off"이면 노드는 무작위 샘플링 없이 텍스트를 생성하며 매개변수는 숨겨집니다.
참고: 모델의 출력이 <think>로 추론 블록을 열면 노드가 이를 분리합니다. generated_text에는 답변이 담기고 thinking에는 여는 태그가 제거된 추론이 담깁니다. 그렇지 않으면 generated_text에는 모델이 생성한 모든 내용이 담기고 thinking은 비어 있습니다. max_length로 인해 잘린 추론은 generated_text에 남습니다.
출력
이 문서는 AI에 의해 생성되었습니다. 오류를 발견하거나 개선 제안이 있으시면 기여해 주세요! GitHub에서 편집
Source fingerprint (SHA-256):
b61210726faa495a342a5eaaebe64f800ec1d2af4e2fc1321d8c3d7c594bd9ca