跳到正文
docai
.
cc
学 AI
学习
知识树
概念
专题
新闻
资料库
知识树
安全与合规
提示注入
DOCAI · 知识树 · 安全与合规
提示注入
Prompt injection
直接注入、间接注入、越狱与系统提示泄露。
这一枝现有 3 条:3 概念 · 0 课程 · 0 专题 · 0 新闻
概念
03
提示注入(Prompt Injection)
把指令藏进模型会读到的内容里(网页、文件、邮件),诱导它偏离原本的任务。
L3
系统提示泄露(System Prompt Leakage)
系统提示迟早会被套出来:不要把密钥、权限和真正的安全边界放进提示里。
L3
越狱(Jailbreak)
用角色扮演、假设场景、分步诱导等方式,让模型绕过自身的安全限制。
L2
相邻的分支
回到领域 →
防护与护栏
输入过滤、输出校验、权限边界与幻觉控制
6 条
隐私与数据
数据留存、脱敏、跨境与供应商条款
3 条
法规与合规
生成内容标识、备案、行业限制与责任划分
2 条