指令微调
在指令及其响应的示例上对模型进行微调。
概览
指令微调是在大量以指令形式表述的任务集合上训练预训练模型，使其学会遵循请求，而非续写文本。它解决了这样一个问题：仅以预测下一个词元为目标训练的模型，会把问题当作需要续写的内容，而不是需要回答的内容。它的作用在于，将语言模型转变为可以被要求执行任务的语言模型。
技术图谱
指令微调 如何与技术栈的其他部分相连。
使用与依赖
- Fine-tuning technique Techniques 指令微调 based on Fine-tuning High ✓ source
应用于
- Alignment technique Safety & Alignment 指令微调 used for Alignment High ✓ source
- Chatbot application Applications 指令微调 used for Chatbot High ✓ source