Appearance
14.1 常见误区
先给结论:RAG 的失败多数不是“技术不够强”,而是“判断不清楚”。认清误区,比盲目堆功能更重要。
很多误区的问题,不在于它们完全错误,而在于它们只说对了一半。
比如:
- “资料越多越好”
- “相似度已经很高了,答案应该差不了”
- “先把 TopK 调大试试”
- “都召回到了,模型怎么还答不好”
这些说法都带着一点真实成分,但如果你把它们直接当成行动原则,系统就会很快走偏。
这一节的目的不是让你背诵几个反直觉结论,而是让你建立一种更稳的排障方式:
看到一个现象时,先判断它属于哪一层问题,再决定该怎么修,而不是凭直觉去调某个最显眼的参数。
这一节会回答什么问题
- RAG 不是把资料塞给模型就行,为什么?
- Chunk 不是越小越好,也不是越大越好,为什么?
- TopK 不是越大越好,为什么?
- 相似度高不等于答案就一定对,为什么?
- 召回到了不等于模型就能答好,为什么?
- RAG 效果差时,为什么不能第一反应就怪模型?
- 为什么“有知识库”不等于“知识真的可用”?
这一节应该怎么读
如果你现在正在做第一个 RAG 项目,建议按顺序读。因为这些误区通常也会按类似顺序出现:
- 先误以为把文档塞进去就够了
- 然后开始狂调 chunk 和 TopK
- 接着发现相似度高也不一定答对
- 再发现召回和生成之间还隔着“证据组织”这一层
- 最后才意识到系统上线真正难的是可控性、评估和维护
如果你已经做过一轮系统,也可以把这一节当成排障清单来读:哪个现象最像你现在遇到的问题,就先看哪篇。