展开本页目录
开始前准备什么
- 下载完整练习包,在独立目录阅读README与已执行范围。
- 安装requirements.txt指定版本或使用文中目标工具;依赖与模型权重不要混入网站工程。
- 只有明确标为已执行的部分有本次证据;真实模型、账号或GPU步骤按自己的环境另行验证。
- 打开逐程序投票输入
- 规定票数和待确认条件
- 核对DSPy Ensemble接口
- 在授权环境加载三个程序
- 保留全部预测再归约
- 抽检分歧与一致错误
- 交付可重载集成与审阅表
1. 打开逐程序投票输入
votes.json有4条输入,每条保留3个分类结果。它们都是作者构造,V4专门展示三票一致仍然可能错,不能包装成真实模型评测。
2. 规定票数和待确认条件
vote-policy.json要求至少2票一致,三种不同结果返回needs_review。先运行audit.py确认V2进入待确认,而不是用列表第一项强行当赢家。
本题独立目录执行
python reference/audit.py3. 核对DSPy Ensemble接口
运行run_sdk.py,真实DSPy Ensemble将三个AuthorProgram组合,并执行4个样本。reduce_fn保留全部票数;AuthorProgram是本包确定性测试程序,不是真实训练模型。
本题SDK或目标环境入口
python reference/run_sdk.py4. 在授权环境加载三个程序
实跑时加载3个不同优化种子的已编译DSPy程序,保留版本hash和各自的预测。三个引用同一程序文件不构成三个独立候选。
5. 保留全部预测再归约
先把输入ID与每个程序结果写入不可覆盖的记录,再按当前SDK支持的reduce_fn组合。任何一次失败都要保留错误,不能把剩余两次成功当三票。
6. 抽检分歧与一致错误
用人工真值分别检查V2这类分歧与V4这类一致错误。输出中要同时看到agreeing_votes和human_label,避免把一致性解释成正确率。
7. 交付可重载集成与审阅表
包内实际Ensemble执行保留4条结果及逐程序投票;V4三票一致仍与人工真值冲突。接真实已编译分类器时再按同样输入重放,不能把本题作者测试程序冒称模型评测。
怎样确认已经完成
- 保留每个模型的原预测
- 一致错误不得当可靠
- 待确认规则由作者实现并标注
- 已在真实DSPy 3.4.1中把三个作者确定性程序编成Ensemble并执行4个投票样本;样本标签由作者给定,未调用真实分类模型。
常见问题
DSPy怎么让多个分类器投票?
将多个兼容DSPy程序交给Ensemble并用reduce_fn处理投票。本包真实跑了三个作者确定性程序,未调用LLM。
三个AI分类结果不一致时怎么保留人工待确认?
全票分歧或低置信情况返回needs_review并保留逐程序票。V4一致投错说明多数票也不是真值,仍需人工反例检查。
这篇教程哪些步骤已经真正执行?
已在真实DSPy 3.4.1中把三个作者确定性程序编成Ensemble并执行4个投票样本;样本标签由作者给定,未调用真实分类模型。



