展开本页目录
开始前准备什么
- 下载完整练习包,在独立目录阅读README与已执行范围。
- 安装requirements.txt指定版本或使用文中目标工具;依赖与模型权重不要混入网站工程。
- 只有明确标为已执行的部分有本次证据;真实模型、账号或GPU步骤按自己的环境另行验证。
- 准备阈值前后材料
- 区分字符与字节
- 配置DocumentLengthRouter
- 运行Router并保存实际分支
- 核对等于阈值时的行为
- 接入摘要后查真实调用
- 交付路由与模型证据分表
1. 准备阈值前后材料
input.json包含3、9、10、11字符及空文档。先把阈值边界写清,不能只给一长一短两个看起来显然的示例。
2. 区分字符与字节
negative中的中文内容UTF-8字节数不同于字符数。audit.py明确使用len(content),实际Router的长度单位和边界要按安装版确认。
本题独立目录执行
python reference/audit.py3. 配置DocumentLengthRouter
把short分支连接小上下文摘要模型,long分支连接长上下文模型;空内容在进入摘要前单独拦下,不制造一个“空摘要成功”。
本题SDK或目标环境入口
python reference/run_sdk.py4. 运行Router并保存实际分支
记录每个Document ID被送到哪个输出连接。先验证路由,不调用任何付费摘要模型,也不把作者预期表当实际Haystack事件。
5. 核对等于阈值时的行为
用edge=10单独验收,查看实际实现是小于还是小于等于;若与作者参考不同,更新说明而不是改输入回避边界。
6. 接入摘要后查真实调用
在授权环境用相同ID关联模型请求,确认长材料确实交给long-context别名,而不只是画布连线正确。
7. 交付路由与模型证据分表
保留字符长度、实际路由、模型别名及调用状态。当前包只完成长度输入和反例审计,未测摘要质量或成本。
怎样确认已经完成
- 边界值按当前源码核对
- 空材料不当有效摘要
- 模型真实调用和mock明确分开
- 已运行真实Haystack DocumentLengthRouter:等于10字符与空内容原生都进short;再用作者空内容前置过滤剔除empty。未调用摘要模型。
常见问题
Haystack怎么按材料长度选择摘要模型?
先按DocumentLengthRouter分short/long,再把不同分支连摘要模型。本文只实跑长度路由,没有调用摘要模型。
DocumentLengthRouter在长度边界和空文档上怎么分流?
真实threshold10时等于10进short,11进long,空内容也进short;剔除空文档是作者前置策略,不是路由器自动拒绝。
这篇教程哪些步骤已经真正执行?
已运行真实Haystack DocumentLengthRouter:等于10字符与空内容原生都进short;再用作者空内容前置过滤剔除empty。未调用摘要模型。



