对齐
让模型的行为符合人们的期望，而不仅仅是可能的输出。
概览
Alignment 涵盖了一系列方法，旨在引导训练后的模型变得有用、诚实且无害，而不仅仅是语言流畅。它解决了这样一个问题：基于网络文本的下一词预测优化的是合理性，这其中就包括听起来合理但有害或错误的输出。它之所以存在，是因为模型训练所依据的目标与人们期望其展现的行为并不一致，这一差距必须被有意地弥合。
技术图谱
对齐 如何与技术栈的其他部分相连。
应用于
- Constitutional AI technique Safety & Alignment Constitutional AI used for 对齐 High ✓ source
- Instruction Tuning technique Techniques Instruction Tuning used for 对齐 High ✓ source
- LLM concept Models 对齐 used for LLM High ✓ source
- RLAIF technique Safety & Alignment RLAIF used for 对齐 High ✓ source
- Red Teaming technique Safety & Alignment Red Teaming used for 对齐 High ✓ source
- DPO technique Techniques DPO enables 对齐 High ✓ source
- RLHF technique Techniques RLHF enables 对齐 High ✓ source