展开本页目录
开始前准备什么
- 下载完整练习包，在独立目录阅读README与已执行范围。
- 安装requirements.txt指定版本或使用文中目标工具；依赖与模型权重不要混入网站工程。
- 只有明确标为已执行的部分有本次证据；真实模型、账号或GPU步骤按自己的环境另行验证。
- 保留正常知识和恶意指令原文
- 运行范围很小的作者过滤反例
- 在LLMRails配置retrieval rail
- 记录每段处理前后内容
- 验证正常问题还能回答
- 增加变体与引用反例
- 交付过滤与回答的双证据
1. 保留正常知识和恶意指令原文
safe有30天维护事实，inject要求无关密钥。检索资料是数据，不应因为位于context就拥有修改系统指令的权力。
2. 运行范围很小的作者过滤反例
包内规则只识别给定的直接命令，引用警示句不应误杀。它不是通用注入检测器，不以两例成功宣称安全率。
本题独立目录执行
bash
python reference/audit.py3. 在LLMRails配置retrieval rail
按当前官方入口把过滤放在检索内容进入回答模型之前。确认实际使用的引擎支持retrieval，避免配置存在但从未执行。
本题SDK或目标环境入口
bash
python reference/run_sdk.py
4. 记录每段处理前后内容
保留chunk ID、输入、处理决定与送模型内容。敏感资料应在保存运行证据前脱敏，不把过滤结果写入假模型日志。
5. 验证正常问题还能回答
真实模型应引用safe的30天且不执行inject。若全部拦空导致无法答正常内容，应记为误杀，不能只看是否没泄漏。
6. 增加变体与引用反例
加入转述、分隔符、不同语言及安全引用，记录漏报/误报。有限测试不能证明所有提示注入都被拦住。
7. 交付过滤与回答的双证据
并列原资料、真正进入模型的资料和真实回答。当前包只执行作者有限规则，没有运行NeMo或真实回答模型。
怎样确认已经完成
- 必须保留可用正常内容
- 测试仅自有材料
- 不能把单次拒绝称注入免疫
- 已执行作者范围明确的检索指令过滤与引用负例；未运行NeMo retrieval rail或模型，不宣称通用提示注入防护效果。
常见问题
知识库材料夹带改指令文字，NeMo怎么先过滤再回答？
将retrieval rail放在资料进入回答模型之前，逐chunk保存处理前后及真实送入模型内容。本包只实跑作者有限规则。
检索护栏怎么同时检查注入拦截和正常内容误伤？
同时测试注入、正常30天事实和引用警示语，分别统计漏拦与误杀。两条规则样例通过不证明通用注入防护。
这篇教程哪些步骤已经真正执行？
已执行作者范围明确的检索指令过滤与引用负例；未运行NeMo retrieval rail或模型，不宣称通用提示注入防护效果。