Skip to content

CostFlow - 面向 AI 应用的用量、成本与计费系统 ​

CostFlow 是「项目实践」栏目的第一个项目。

为什么第一个项目没有直接去做一个 Agent,而是先从计费系统开始?

因为它刚好处在两个方向的交界处:一边是大家更加熟悉的传统后端开发,另一边则可以继续延伸到 AI 应用和 Agent。

计费本身就是一个很典型的后端工程问题。随着项目深入,会逐渐涉及数据模型、接口设计、事务、幂等、并发、异常处理、统计查询以及系统扩展等内容。

到了 AI 应用里,这套能力又有了新的用途。

模型调用会产生 Token 消耗,Agent 一次任务可能包含多次模型请求、工具调用和第三方 API 调用。当一个 AI 应用真正开始提供服务以后,用量怎么统计、成本怎么追踪、不同能力怎么计价,都会逐渐成为需要解决的问题。

CostFlow 就从这里开始。

进入 CostFlow - AI 应用计费系统

这个项目适合谁 ​

如果你已经有一些 Java 后端基础,同时准备继续学习 AI 应用或者 Agent 开发,那么我非常推荐把 CostFlow 作为「项目实践」的第一个项目。

因为你不需要突然从熟悉的后端开发跳进一个完全不同的技术体系。

前期仍然会接触很多熟悉的 Java 工程问题,后面再逐渐把模型调用、Token 统计、费用计算、工具执行等能力接进来。

什么情况下可以先跳过 ​

如果你现在的目标非常明确,就是想直接学习 Agent 如何规划任务、调用工具、维护状态、设计 Memory,或者希望马上开发一个完整 Agent,那么 CostFlow 并不是最直接的选择。

后续「项目实践」还会有更加偏 Agent 本身的项目,到时候可以直接进入那些内容。

CostFlow 更适合想把后端工程能力和 AI 应用开发连接起来的人。

为什么说它“进可攻,退可守” ​

往 AI 应用和 Agent 方向走,可以逐渐把:

  • 模型调用
  • Token 消耗
  • Tool 调用
  • 第三方 API 成本
  • Agent 任务成本

接进整个计费体系里。

最后它可以成为 AI 应用中的一项基础设施能力。

但如果以后仍然主要投传统后端岗位,这个项目也不会失去价值。

因为它本身仍然是一个完整的后端业务系统,会涉及数据建模、事务、幂等、并发、规则设计、查询统计以及系统演进等比较典型的工程问题。

很多学传统后端开发的同学,就会比较犹豫,我到底该不该转到 AI 应用开发?

如果你也处于这种犹豫阶段,那么 CostFlow 非常适合作为一个过渡项目。