DOCAI · 概念 · L2
什么是越狱
一句话定义
用角色扮演、假设场景、分步诱导等方式，让模型绕过自身的安全限制。
开发者更新 2026-11-13核验 2026-11-13 · docai 编辑部
它和提示注入的区别
- 提示注入：把指令藏进材料，劫持任务。
- 越狱：用户直接和模型对话，想办法让它说出本不该说的内容。
前者是「数据冒充指令」，后者是「用户绕过规则」。
常见手法
- 角色扮演：让模型假装成不受限制的另一个模型。
- 假设场景：「写小说需要，描述一下……」
- 分步拆解：把敏感请求拆成看起来无害的小问题。
- 编码混淆：换语言、用 base64、拆字。
为什么防不住
模型的安全行为是训练出来的倾向，不是硬性开关。任何基于文本的规则，都能被新的说法绕过。防护是概率问题，不是有无问题。
三个常见误解
- 「加一句不许越狱就行」：只能挡住最简单的尝试。
- 「越狱只会产生不当内容」：更危险的是诱导模型泄露系统提示、调用不该调的工具。
- 「开源模型才容易被越狱」：闭源模型同样会被绕过，只是攻击面与缓解手段不同。
做产品时怎么办
- 不把安全完全押在提示上，输出侧要有过滤与审核。
- 高风险能力（转账、删数据）加人工确认。
- 记录被拦截的请求，持续更新规则。
- 对用户公开能力边界，别承诺「绝对不会」。