11 月 3 日对账，模型团队的财务把两张单子并排摊在桌上，中间隔着一杯凉透的茶，旁边压着三月那张验收单的复印件。
左边那张是三月结的：八张卡，二十一天，四万出头，签字的流程早就走完。右边这张是这天早上刚打印的：同一批机器，一百四十万，付款方是同一个团队，备注栏空着，连审计章都没盖。
她翻了三遍，抬头问了一句：机器是同一批八张卡，中间只加过八张，账怎么差三十五倍。对面的人说，训练那笔三月一次结清，推理这笔按月扣，扣了十二个月。
为什么会这样
训练只算你用了多久，推理算它站了多久。
先分清两件事。训练是拿一堆数据反复改参数，把模型教出来；推理是模型教好之后，天天给用户答题。教一次就够了，答题要答一辈子。
训练那笔好算：八张卡，二十一天，一天二十四小时，四千零三十二卡时。一张卡占一小时叫一卡时，按十块钱算，四万零三百二十块。
推理那笔不按答了多少次结，按一直开着结。十六张卡常年在线，十六乘二十四再乘三百六十五，十四万零一百六十卡时，一百四十万零一千六百块。
两个数一除：十四万零一百六十除以四千零三十二。得三十四点八，就是三十五倍。
十六张是怎么来的？一张卡一秒答八条，白天顶到的那一分钟六千条，摊下来每秒一百条。一百除以八是十二点五张，往上留余量就是十六张。
可全天摊平呢：一天两百万次调用，除以八万六千四百秒，每秒二十三条，二十三条除以八约等于三张。白天要十三张，平均只要三张。
这就像请师傅。搬家按小时结，搬完就走；前台得一直有人坐，一整天只来三拨客人，人也得坐到下班。
怎么解决
- 限速削峰。 给免费额度设每秒条数上限，白天那一分钟从一百条压到六十条。六十除以八等于八张，卡从十六张降到八张，一年八万七千六百小时乘八再乘十，七十万零八百块。
- 夜里缩容。 白天十二张，凌晨两点以后降到三张。一天一百八十卡时，一年六万五千七百卡时，六十五万七千块。跟削峰一起用，落到四十八万。
- 换卡型。 推理用不上卡与卡之间那条高速线，同样算力的推理卡更便宜。假设六块一卡时，十六乘八千七百六十再乘六，八十四万，省五十六万。换卡要停机，窗口放在凌晨两点到五点，一次搬完。
别踩的三个坑：坑一只按平均留卡，三张卡撑白天，一开门就堵死。坑二为了省卡一次只答一条，单条变慢，用户等不及就走。坑三拿训练卡跑推理，那条高速线一点用不上，钱白付。
平台怎么管这些问题
资源池把十六张卡登记在一处，谁占几张在面板上有名字，财务那张单子能对上号。按小时开关卡，凌晨自动把多出来的退回池子，早上七点再拉起来。
限速与排队给免费额度设上限，白天顶不到一百条。计量同时记两条：占了多少小时、答了多少次，单子上写清是哪一条。告警盯空转，连着两小时低于两成，或者卡掉线，直接推到值班手机。
平时谁管这四件事。限速阈值归业务负责人，改一次留一条记录；超峰值的额外账单只有算力主管能签，签了必须写原因。
每次开关卡、每次改阈值都记工号和时间，翻得到是谁。告警发给值班表上的当班人，十五分钟不回就转到组长。
这笔钱值不值
推理费从业务收入里出，掏钱的是模型团队自己。削峰加夜间缩容，一百四十万落到四十八万，一年省九十二万。
要动两个人、三个月，按假设三万一人的月成本算十八万。九十二除以十八约等于五，五个月收回成本的时间。
明年调用量要是翻倍，卡从八张加到十六张，账单回到一百四十万。可那是两倍的生意撑着同一笔钱。
国家为什么也盯这件事
国务院 2025 年 8 月印发《关于深入实施"人工智能+"行动的意见》，国发〔2025〕11 号。文件要求，到 2027 年新一代智能终端、智能体等应用普及率超 70%，2030 年超 90%。
同一份文件把"强化智能算力统筹"列进了八项基础支撑。统筹两个字落到现场，就是别让同一批卡一边排队一边空转。
七成普及率意味着调用量还得往上翻，那张一百四十万的单子不是峰值，是起点。
财务把两张单子订在了一起。左边那四万是过去的账，右边那一百四十万才是往后的账。机器没换，账换了个算法：一个按用掉的小时收，一个按站着的小时收。
GPU 资源池化、任务调度、多租户和计费一套管，装在自己服务器上，能改能扩。