展开本页目录
开始前准备什么
- 下载完整练习包，在独立目录阅读README与已执行范围。
- 安装requirements.txt指定版本或使用文中目标工具；依赖与模型权重不要混入网站工程。
- 只有明确标为已执行的部分有本次证据；真实模型、账号或GPU步骤按自己的环境另行验证。
- 区分关闭、合并和解除合并
- 复算作者矩阵参考
- 保存真实底座与adapter校验值
- 测试启用与disable_adapter
- 单次merge并复测
- unmerge核对底座差值
- 交付状态与误差回执
1. 区分关闭、合并和解除合并
关闭adapter在前向时不加增量，merge写入底座参数，unmerge尝试减回增量；merge_and_unload还会改变可用操作，不能混为一谈。
2. 复算作者矩阵参考
audit.py对2×2矩阵展示base、enabled/merged、unmerged输出，并检查恢复误差。此处不是基础模型或PEFT推理。
本题独立目录执行
bash
python reference/audit.py3. 保存真实底座与adapter校验值
目标环境加载后先记录关键权重副本和模型版本，使用eval及固定采样。不要在唯一生产模型上反复试合并。
本题SDK或目标环境入口
bash
python reference/run_sdk.py
4. 测试启用与disable_adapter
同一输入对比适配器开启、关闭及上下文退出后的恢复。记录真实输出和参数状态，不能只看生成文字像不像。
5. 单次merge并复测
调用文档支持的merge方法后检查与enabled前向差异；量化、dtype和实现可能使数值不同，阈值需合理说明。
6. unmerge核对底座差值
保存关键权重最大绝对差，不强求浮点按位一致。重复merge负例应能被状态管理拒绝或显式避免。
7. 交付状态与误差回执
本包只有作者矩阵参考及目标环境示例，无真实PEFT模型操作。不可逆卸载之前保留可重新加载的底座和adapter。
怎样确认已经完成
- 允许浮点误差阈值明确
- 保存原底座
- 量化适配器可否合并先核实
- 已执行作者矩阵启用/关闭/合并/解除合并算术与误差检查；未操作真实PEFT模型，作者矩阵不是训练权重。
常见问题
LoRA关闭、merge和unmerge有什么区别？
关闭仅停用前向增量，merge写入底座，unmerge减回增量；merge_and_unload另有结构后果。包内仅用作者矩阵做参考。
PEFT合并再解除后，怎么确认底座权重已经恢复？
记录关键参数前后最大差、dtype和容差，并固定输入比较logits，避免重复merge。作者恢复误差不代表基础模型真实权重验证。
这篇教程哪些步骤已经真正执行？
已执行作者矩阵启用/关闭/合并/解除合并算术与误差检查；未操作真实PEFT模型，作者矩阵不是训练权重。