输入
采样参数(当 sampling_mode 为 "on" 时)
注意: 上述采样参数仅在
sampling_mode 为 "on" 时存在。当为 "off" 时,节点在不进行随机采样的情况下生成文本,这些参数会被隐藏。
注意: 当模型的输出以 <think> 开启一个推理块时,节点会将其拆分:generated_text 携带答案,thinking 携带移除了起始标签的推理内容。否则 generated_text 携带模型产生的全部内容,而 thinking 为空。被 max_length 截断的推理内容会保留在 generated_text 中。
输出
本文档由 AI 生成。如果您发现任何错误或有改进建议,欢迎贡献! 在 GitHub 上编辑
Source fingerprint (SHA-256):
b61210726faa495a342a5eaaebe64f800ec1d2af4e2fc1321d8c3d7c594bd9ca