月底最后一个工作日，负责售后机器人的工程师把上个月的调用明细导成表格。十二万次调用，账单一千一百零四元。
每句话平均三千个 token（模型眼里的字，一个汉字算一个）进去，四百个出来，一次问答不到一分钱。表里三栏并排：输入、输出、缓存命中，第三栏从头到尾是零。
他把系统提示和产品手册挪到最前面重排一遍。第二个月账单掉到四百九十九元，差六百零五块。模型没换，手册一个字没动，同样的答案，钱为什么能差一半？
为什么会这样
一句话：模型不按一次问答收钱，按三段分开收——进去的字、出来的字、重复进去的字，三段各有各的价。
像寄快递。寄出去按重量算，对方回寄也按重量算，而且更贵。同一个地址天天寄，快递员给你打个一折。
先看进去的字。假设每百万 token 收 2 元（价都是假设，只为把账算通），十二万次乘三千是三亿六千万 token，三百六十个百万，七百二十元。
再看出来的字，每百万 8 元，是输入的四倍。十二万乘四百是四千八百万，四十八个百万，三百八十四元。七百二加三百八十四，正好一千一百零四。
可那三千个字里，两千八百个每次都不变：系统提示、产品手册、格式要求。这两千八百个字，每个月被原样送进去十二万遍。
缓存命中，就是让重复的这段按一折算，每百万 0.2 元。三百三十六个百万乘 0.2 是六十七块二；两百个没命中，二十四个百万乘 2 元是四十八块；输出仍是三百八十四，合计四百九十九块二。
一千一百零四减四百九十九点二，六百零四点八，约六百零五块。差的钱不是模型贵，是那两千八百个字被重复计价了十二万次。
缓存也不白给：内容要一字不差，还得在有效期内。前面多一句“今天是几号”，后面整段就不认。
怎么解决
三条路，从最便宜的往上走。
- 把不变的内容全挪到最前面。 改什么：系统提示、手册、格式要求放开头，用户问题放最后，中间不插时间戳、用户名、单号。改完差多少：两千八百个字开始命中，输入费从七百二掉到一百一十五块二，一个月省六百零五。花的钱是零，改代码半天。
- 把回答压短。 改什么：提示词写“先给结论，再说三步，全文不超过一百五十字”。改完差多少：输出从四百掉到一百五，三百八十四元变一百四十四元，账单再掉到二百五十九。花的是一个人一天。
- 把不急的活挪走。 改什么：半夜的批量打标签、历史对话重跑，走批量通道或小一号的模型；实时对话留在贵的那档。改完差多少：假设三成调用不急，那部分单价按一半算，一个月再省七十五。花的是排期，两三天。
别踩的三个坑：坑一，缓存前面加时间戳，系统提示头一句写“今天是 10 月 28 日”，命中率归零。坑二，只盯单价不看输出，回答写长一倍账就多一半。坑三，按 token 数估账忘了重试，超时重发一次，输入再算一遍。
平台怎么管这些问题
这些事落到平台上，是六个功能串成一条线。
- 统一接入：一个
base_url（接口地址）接多家模型，换模型不改代码，账单口径只剩一份。 - 用量明细：每次返回都带
usage（用量明细），三段分开列，第三栏是不是零一眼看见。 - 缓存统计：单独统计本该命中却没命中的请求，按前缀分组，直接指到哪段提示词在变。
- 单价规则：输入、输出、缓存三段分开配，按模型版本各存一套，换版本价跟着走。
- 预算和限额：按 key、按项目设上限，用到八成发提醒，一千一百零四这种数月中就看见。
- 对账导出：按天、按 key、按模型拆，财务和运维拿同一份数。
这些功能平时谁管，比功能本身更要紧。
- 谁能改单价：计费管理员，一人一号，改一次留一条记录，次日零点生效。
- 谁能批减免：团队负责人，一笔一签，超过五百元要财务复核。
- 出事能不能倒查到人：能。每次调用带 key、时间、模型版本和三段 token 数。
- 额度告警发给谁：项目负责人，八成一次、满额一次，夜里没人看就升级给值班。
这笔钱值不值
掏钱的是用这个机器人的业务方，也就是售后团队自己。
省多少：一个月六百零五元，一年七千二百六十元。快多少：改代码半天，改提示词一天，模型不用重新评测。
回本：两件事一个人一天半，按一天八百元（假设）算一千二，当月就回来。
量涨了更明显。四十万次一个月，账从三千六百八十掉到一千六百六十四，差两千零一十六。
前提是缓存真命中，改完要去 usage 里看见那栏不是零。
行业规则怎么管这件事
这条线没有专门的国家文件管计费，管它的是平台自己的定价规则。
国内一家主流模型厂商的定价页写明：扣费等于 token 消耗量乘单价，价格可能变动，厂商保留改价的权利。规则叫《模型与价格》，发布方是深度求索，2026 年 10 月这一版挂在它的 API 文档里。
意思很直白：数由平台数，价由平台改，你手上只有 usage 那份明细。
六百零五块不会有人主动退，能不能发现，就看有没有人把三栏对一遍。
每周五下午，那位工程师花十分钟把 usage 导出来，三栏挨个看一遍。缓存那栏要是零，说明前面又有哪句话变了，改了顺序反而没命中，钱就白花。
Token工厂：贰号token工厂
主流大模型 API token 统一接入、统一计费，改个地址就能用。
点这里看详情 →