结构化输出
约束模型输出有效的 JSON 或符合 schema 的对象。
概览
结构化输出会约束生成过程，使结果能够按照 schema 解析，通常通过限制每个位置允许的 token 来实现。它解决了这样一个问题：要求模型输出 JSON，大多数时候确实会得到 JSON，而流水线无法建立在“大多数时候”之上。它之所以存在，是因为约束在生成过程中就被强制执行，而不是事后才进行验证，因此不需要重试和修复逻辑。
技术图谱
结构化输出 如何与技术栈的其他部分相连。
应用于
- AI Agent application AI Agents 结构化输出 used for AI Agent High ✓ source
- Constrained Decoding technique Techniques Constrained Decoding used for 结构化输出 High ✓ source
- Function Calling technique Prompting 结构化输出 used for Function Calling High ✓ source