袁天AI developer
← 全部笔记

Agent 成本控制:先别花冤枉钱

最贵的往往不是模型单价,而是重复调用。

做 Agent 应用想省钱,我第一个问的是:这次调用产出了什么新东西吗? 同样的结果生成两遍,比偶尔用一次贵点的模型浪费得多,而且更不容易被发现。

我常用的四招

  • 能缓存就缓存。 文本和参数一样,就直接复用上次的语音或模型结果。
  • 不同角色用不同模型。 负责表达的、当裁判的、做结构化决策的,要求完全不一样,分别比一比质量、速度和价格。
  • 推理别一律开满。 狼人杀的裁判点评关掉长推理之后,等待从两分多钟变成几秒。复杂的活还是得开,开不开看任务。
  • 预算存进数据库。 累计花了多少不能只放在内存里,每次付费调用前查一下,重启也不会清零,过了零点按规则重置。

顺序是先砍重复调用,再去调模型和推理强度。每次调整都同时看花了多少钱、活干得怎么样、用户等了多久,别省着省着把效果省没了。

成本控制 缓存
© 2026 袁天NOTE / 01
小鲸鱼 · AI 导航
小鲸鱼正在连接…

站上的内容我都读过。直接联系袁天 →

小鲸鱼我是助手小鲸鱼。内容、笔记,或者有什么想知道的,直接问我。