温度
缩放 logits 以控制采样的随机性高低。
概览
Temperature 在 softmax 之前对 logits 进行除法运算，因此较低的值会使分布向最可能的 token 锐化，而较高的值则会使其变得平坦。它解决了模型原始分布对于开放式文本往往过于尖锐、对于事实性回答又过于平坦的问题。它作为对连贯性与多样性之间权衡的最简单控制而存在。
技术图谱
温度 如何与技术栈的其他部分相连。
缩放 logits 以控制采样的随机性高低。
Temperature 在 softmax 之前对 logits 进行除法运算，因此较低的值会使分布向最可能的 token 锐化，而较高的值则会使其变得平坦。它解决了模型原始分布对于开放式文本往往过于尖锐、对于事实性回答又过于平坦的问题。它作为对连贯性与多样性之间权衡的最简单控制而存在。
温度 如何与技术栈的其他部分相连。