展开本页目录
开始前准备什么
- LightOnOCR-3采用本地或自有授权服务;4B/0.8B为Qwen3.5架构,1B架构不同,显存还受图片与上下文影响,不承诺某张卡必定够用。
- 使用官方仓库锁定的兼容依赖;当前仓库说明vLLM0.30.0与Transformers5.16.1,模型卡的旧最低版本不能替代锁文件。
- 模型Apache2.0;仅空prompt或grounding是文档支持输入,原生PDF与检查无需付费,模型识别未执行。
- 列出后端模型身份
- 阅读官方profile规则
- 检查别名默认
- 设置明确最长边
- 核对兼容依赖
- 执行小页验证
- 交付profile记录
1. 列出后端模型身份
记录实际加载权重repo与对外served model name。
别名不能代替真实模型版本,台账同时保留二者。
2. 阅读官方profile规则
当前仓库为3-1B采用1540px,3-0.8B和4B采用2048px。
旧代模型也不支持grounding,不能只凭名称中含OCR就开放模式。
3. 检查别名默认
官方说明自定义served-model-name会按3代2048px假设处理。
若实际加载1B,必须显式校对最长边而非相信自动识别。
4. 设置明确最长边
按实际权重使用--longest-edge覆盖页面尺寸。
保留渲染前后宽高,不能只改配置文本不看发送图。
5. 核对兼容依赖
使用仓库锁定版本,特别检查1B在Transformers5.17与vLLM0.30组合的已知问题。
不要盲目升级所有包后把循环输出误归为文档难度。
6. 执行小页验证
先用三行清单看模式、尺寸和输出是否正常。
出现循环或拒绝模式先回查模型身份与依赖。
7. 交付profile记录
保存真实repo、别名、最长边、依赖锁和实际发送图尺寸。
未部署后端时只交配置差异,不声称兼容性已测。
下载本课材料并开始操作
练习包包含本课的具体输入、可编辑数据、正反样例与七步说明。index.html 可离线查看原件和验收参考,actual-results.csv 用于记录你实际操作后的结果。
怎样确认已经完成
- 真实权重repo和别名均有记录。
- 1B最长边明确1540px。
- 依赖问题与内容识别问题分开诊断。
常见问题
模型改了个名字,怎么OCR表现也变了?
官方客户端会按服务模型名选择profile,自定义名默认按3代2048px处理。本课同时保存真实repo与别名,必要时显式覆盖最长边。
总是循环输出,是图片太复杂吗?
不一定。官方仓库指出特定vLLM/Transformers组合有循环或1B兼容问题;先按锁文件复现小页,再判断文档因素。



