Logits
模型在 softmax 之前产生的原始、未归一化的分数。
概览
Logits 是最后一层为每个词表 token 输出的分数向量，未经任何归一化。它们本身不解决任何问题，只是模型最基础形式的输出。它们存在的意义在于，所有解码决策都在此做出：temperature 对它们进行缩放，top-p 对它们进行过滤，而约束解码则限制其中哪些可以被选中。
技术图谱
Logits 如何与技术栈的其他部分相连。
被用于
- Beam Search technique Techniques Logits used by Beam Search High ✓ source
- Constrained Decoding technique Techniques Logits used by Constrained Decoding High ✓ source
- Temperature technique Techniques Logits used by Temperature High ✓ source
- Top-p Sampling technique Techniques Logits used by Top-p Sampling High ✓ source