大模型 API 成本估算器

为什么要单独做成本估算

很多试点只算「单次几分钱」，忽略多轮历史膨胀、失败重试、评测流量与活动峰值。预算被打穿后，业务侧往往会直接关停功能。立项阶段用本工具做敏感性分析（把调用量×2、输出Token×1.5）更稳妥。

计算说明

• 日输入Token = 次数 × 平均输入 × 膨胀系数
• 日输出Token = 次数 × 平均输出 × 膨胀系数
• 费用 = Token数 / 1,000,000 × 对应单价后相加
• 月费用按30天粗算；实际按计费周期为准

降本思路

1. 分类/路由用小模型，复杂生成再用大模型。
2. 压缩系统提示，检索片段设上限（配合Token估算）。
3. 对相同问题做缓存；限制最大输出长度。
4. 设置日预算熔断与按租户配额。