Appearance
11.1 一个能上线的 RAG 系统还需要什么
先给结论:能上线的 RAG 系统,绝不只是“检索 + 生成”两步。真正能承载真实用户和业务风险的系统,还需要访问控制、评测闭环、日志观测、回退策略、搜索入口、灰度发布等一整套工程能力。
很多原型在 Demo 阶段看起来很漂亮,但一上线就暴露问题。原因通常不是模型不够强,而是:
- 生产系统必须具备“可控、可查、可回退”的能力
这一节就是从这个角度出发,帮助你建立“生产级能力清单”的基本认知。
学这一节时,最值得先建立的判断
- 主链路只是系统的一部分,工程能力决定系统能不能稳定上线
- RAG 不是所有场景都要生成回答,某些场景应该保留检索直出
- 传统搜索并不是过时能力,而是很多场景的必要补充
这一节会回答什么问题
读完这一节后,你最好能更稳地判断:
- 为什么某些看似“非核心”的工程能力,实际是上线门槛
- 哪些场景该让生成退后一步,先把证据展示给用户