Appearance
13.3.1 如果资源有限,RAG 应该优先做哪些能力?
先给结论:优先做“可跑通、可定位、可迭代”的能力,不要优先做“复杂但不可控”的能力。
资源有限时,最关键是把投入集中在“稳定性和可定位性”上。下面是一个务实的优先级顺序。
优先级 1:稳定的最小链路
你需要保证“文档 -> 召回 -> 生成”的链路稳定跑通。没有闭环,其他优化都没有意义。
优先级 2:最小可观测
哪怕没有完整监控平台,也要能看到:
- 检索输入与召回结果
- 生成使用的证据
这能让你把问题定位到检索还是生成。
优先级 3:最小评测集
准备一小批稳定问题集,记录基线结果,保证迭代有方向。没有评测,优化是盲目的。
优先级 4:可更新的数据链路
数据更新是生产系统的常态。即使是最小版本,也要支持:
- 增量更新
- 去重
- 索引重建
这决定了系统能否长期可用。
优先级 5:基础过滤能力
如果有多租户或权限需求,必须引入 metadata 过滤,避免“数据泄露”成为上线障碍。
不要优先做的能力
在资源有限时,以下能力应当后置:
- 复杂重排与多路召回
- 多模态与 Agentic Retrieval
- 大规模评测系统
这些能力有效,但前提是你已经有稳定的链路与数据基础。
一句话总结
资源有限时,先做“可跑通、可定位、可迭代”的能力,再做“复杂但昂贵”的能力。