越狱
绕过模型拒绝行为的提示词。
概览
越狱是一段提示词，或一系列提示词，能让模型产出其安全训练本应拒绝的输出。它不解决任何问题；它是红队测试旨在发现的失效模式。它之所以作为一个被命名的问题存在，是因为拒绝行为是叠加在一个原则上能够生成该文本的模型之上的习得行为，因此这一边界是概率性的而非结构性的——这正是为什么防御措施被施加在模型周围，而不仅仅是在模型内部。
技术图谱
越狱 如何与技术栈的其他部分相连。
使用与依赖
- Prompt Engineering technique Prompting 越狱 based on Prompt Engineering High ✓ source
应用于
- Red Teaming technique Safety & Alignment 越狱 used for Red Teaming High ✓ source