一句话答案
RAG/检索失败先换文件/格式、解除占用、降低批量大小,再更新工具/浏览器。 RAG 只放相关块,比整篇文档省 token。
为什么重要
大多数失败是输入/占用/资源问题,不是工具本身。
块太大浪费,太小丢上下文。
具体怎么做
- 先确认模型上下文和输出预算。
- 粘贴提示词/文档,估算 tokens 与占用。
- 超过 80–90% 就拆分、摘要或检索。
- 系统提示/工具 schema 也要计入。
- 计费/硬限制用官方 tokenizer 复核。
常见错误
- 把字符数当 token 数。
- 忽略输出/系统提示占用。
- 以为所有模型 tokenizer 一样。
- 长文档整段塞入,不检索/摘要。
检查清单
- 模型上下文已确认。
- 输出预算已预留。
- 系统提示/工具已计入。
- 长文已检索/分段。
- 关键场景用官方 tokenizer 复核。
关键事实
- 块太大浪费,太小丢上下文。
- 重排/去重能省。
常见问题
RAG/检索处理失败怎么修?
RAG/检索失败先换文件/格式、解除占用、降低批量大小,再更新工具/浏览器。 RAG 只放相关块,比整篇文档省 token。
检测要多久?
通常 1–3 分钟;如果问题间歇出现,连续测 30 秒并换环境复测。
会上传数据吗?
本页在浏览器本地运行,不上传画面/声音;扩展仍可能读取页面。
来源: RAG paper