Constitutional AI
仅使用书面原则而非仅靠人工标注来对齐模型。
概览
Constitutional AI 让模型依据一套成文原则对自己的输出进行批判和修订，然后基于修订结果进行训练。它解决了为每一有害输出收集人类判断所带来的成本与不一致问题：一条原则只需陈述一次，便可适用于成千上万个案例。它作为纯人类反馈之外的替代方案而存在，其代价是原则本身由人撰写，因而带有撰写者的判断。
技术图谱
Constitutional AI 如何与技术栈的其他部分相连。
应用于
- Alignment technique Safety & Alignment Constitutional AI used for Alignment High ✓ source
替代方案
对比
与上述替代方案的逐项对比。