11 月 5 日下午两点，小林把一万条老问题导进测试脚本。这三个月客服答过的每一个问题都在里头，一条不改，重新问一遍。对面是八张刚上架的国产卡，风扇转得很稳，办公室里只剩两个人在等。
跑完是晚上九点。屏幕上一万行结果，红的有 137 行，剩下的绿成一片。同一个问题，答出来的话跟原来不一样，九千八百多条一个字都没差。
他把红的按提问长度重排了一遍，心一沉：全挤在超过两千字的那些问题里。会议室里有人问，卡不是都点亮了吗，怎么还挑问题答。窗台上那杯水早凉了。
为什么会这样
卡算得动，但它装数的那只箱子比原来小，长的东西一进去就撑爆。
一段话进模型，先被切成一串数。2000 字的问题，大约切成 3000 个数。模型 70 层，每层都要把这些数乘一遍、再加起来，算到一半的结果得先存着。
存这些数用的是 16 位。16 位只有 65536 个格子，这 16 位怎么分给"能装多大"和"能记多细"，是两种活法。
原来那批卡用的是 bf16。它把 8 位给范围，能装到 3.4 乘 10 的 38 次方，跟 32 位一样宽；只剩 2 位管粗细，数很粗，但装得下。
国产卡上一代只认 fp16。它给范围 5 位，顶到 65504 就到头了。bf16 能装的那个数，是它的五后面跟三十三个零倍。
长问题就炸在这一步。模型要把一句话里每个字跟每个字比一遍，比完再加权求和。短问题一般 30 项，2000 字的问题是 3000 项，差 100 倍，算到一半的数也按这个倍数往上走。
短问题走到 600，离 65504 还有一百倍余量，所以九千一百四十条里只错了 19 条，千分之二。长问题走到 6 万，正好压在线上，八百六十条错了 118 条，一成四。
一过线就变成"无穷大"。无穷大加任何数还是无穷大，后面几十层全是废的，输出要么一段话反复重复，要么干脆空着。两种加起来 121 条，剩下 16 条是答非所问。
短问题出错率千分之二，长问题一成四，差六十五倍。这就是为什么拿短问题测，怎么测都是通的。
怎么解决
-
长问题先切开。 超过 2000 字的问题按 800 字切块，一块一块问，答案再拼起来。改动是提交任务时加一段切分，一个人半天；切完一次只装 800 字，算到一半的数到不了 6 万。
-
爱炸的那几层换成 32 位。 70 层里通常就 4 到 6 层会冲高，把这 6 层拎出来用 32 位算，其余 64 层照旧。改配置加跑一遍全量回归，三个人日，代价是这 6 层每层慢 2.4 倍，总算力时间涨一成二。
-
换支持
bf16的卡，或者等固件补上。 这条得花钱，等于重新采购，或者停机等厂商升级，半个月到一个月。
别踩的三个坑：坑一拿短问题测通了就上线，九千一百四十条里只错 19 条，根本测不出来。坑二把"换更低的精度"当成性能优化，8 位比 16 位快，箱子更窄。
坑三只在一台机器上验，八张卡里有一张固件版本不一样，同样的输入它先炸。
平台怎么管这些问题
提交任务时先看输入多长，超过阈值自动切块，不靠人手切。精度档位写进任务模板，哪个任务用哪种 16 位，模板里定死，换了卡照模板走。
跑完统计每台机器有多少次冲破上限、多少条输出是重复或空的，落到同一张报表上。同一个任务在两批卡上各跑一遍，不一致率超过百分之一就拦下来，不让它上线。
多花的那一成二卡时，单独记到这个任务名下，账算得清。
平时谁管这四件事。分块阈值和精度模板谁能改，平台管理员改，改一次留一个版本号。多花的卡时算在谁头上，财务批，走减免单。
哪次任务、哪台机器、哪个时间点炸的，按任务号查得到提交人和审批人。机器掉线推到值班工程师手机上，十分钟不回转平台负责人。
这笔钱值不值
掏钱的是这家城商行的科技部。上线前，一天二十万次咨询全靠人工，按三毛钱一次算，六万块一天。
推迟两周就是十四天，八十四万。这笔钱不是罚款，是这两周还得照付的人工。
混合精度多花一成二卡时。一次咨询两厘钱，二十万次是四百块一天，一成二就是四十八块，一年一万七千五。
八十四万除以一万七千五，四十八倍。四十八块一天的额外开销，六万块一天的节省，七个小时就挣回来了。
国家为什么也盯这件事
工业和信息化部办公厅 2025 年 10 月 21 日印发《关于开展 2025 年人工智能产业及赋能新型工业化创新任务揭榜挂帅工作的通知》。附件 1 开头一项就是大模型训练芯片。
要求写得很细：突破生产工艺适配、先进封装适配，支持低精度浮点格式，支持混合精度计算和低精度训练。到 2027 年，要适配九成以上的国内大模型。
文件要的是"支持混合精度"，落到验收桌上就是那 137 条。不是把卡点亮，是在同一万条问题上答得跟原来一样。
11 月 5 日晚上，小林把那 137 条单独存成一个文件，标上名字放进缺陷库。八张卡还是那八张，一张没换，能让它们答得跟原来一样，比让它们亮着难得多。
GPU 资源池化、任务调度、多租户和计费一套管，装在自己服务器上，能改能扩。