Agent 成本控制:先别花冤枉钱
最贵的往往不是模型单价,而是重复调用。
做 Agent 应用想省钱,我第一个问的是:这次调用产出了什么新东西吗? 同样的结果生成两遍,比偶尔用一次贵点的模型浪费得多,而且更不容易被发现。
我常用的四招
- 能缓存就缓存。 文本和参数一样,就直接复用上次的语音或模型结果。
- 不同角色用不同模型。 负责表达的、当裁判的、做结构化决策的,要求完全不一样,分别比一比质量、速度和价格。
- 推理别一律开满。 狼人杀的裁判点评关掉长推理之后,等待从两分多钟变成几秒。复杂的活还是得开,开不开看任务。
- 预算存进数据库。 累计花了多少不能只放在内存里,每次付费调用前查一下,重启也不会清零,过了零点按规则重置。
顺序是先砍重复调用,再去调模型和推理强度。每次调整都同时看花了多少钱、活干得怎么样、用户等了多久,别省着省着把效果省没了。
© 2026 袁天NOTE / 01
