训练时代的黄昏:从 GPT4.5 下线到 AI 泡沫的新形态
训练时代的黄昏:从 GPT4.5 下线到 AI 泡沫的新形态
前情说明:这是"读推整理"系列的第三篇,前两篇分别是《大模型硬件架构的终局推演》(全景图)和《Agentic CPU 完全体》(CPU 支线)。这一篇专门谈训练侧——一个正在被行业悄悄埋葬、又以另一种形式重生的话题。 素材来自 X 博主 @fi56622380(fin)2025 年 8 月到 2025 年 11 月的多条长推。所有加粗判断都来自原推。
起手:一个几乎没人明说的事实
2025 年 4 月,OpenAI 宣布 GPT-4.5 未来将下线。
这条新闻在当时被淹没在各种 AI 产品公告里,但如果你在 4 月读到它、并且理解了这条消息背后的含义——你就会明白,从 GPT-1 到 GPT-4 那种"一年一次 benchmark 大跃升"的时代,其实那个 4 月就宣告结束了。
fin 用一句非常克制的话概括:
未来 GPT6/7/8,可能和手机常规升级换代一样,不会再有从 GPT1 到 GPT4 的数据量 + 训练量巨大飞跃了(GPT4.5 已经试过了)。
一个时代结束了,但另一个时代同时打开——一个由推理、agent、和基建 supercycle 主导的新时代。这一切合在一起,也让"AI 泡沫论"变成了一个和 2000 年互联网泡沫本质不同的东西。
本文按四条主线重组这个故事:
- GPT4.5 的墓志铭:大力出奇迹路线为什么撞墙
- 模型定价学:为什么大模型的商业形态越来越像 fabless 芯片
- GPU 折旧论 vs 反折旧论:训练和推理,同一颗 GPU 的两条命
- AI 泡沫的新形态:为什么这次的泡沫不会在基建端破,会在应用端破
一、GPT4.5 的墓志铭:大力出奇迹撞墙了吗?
1.1 GPT4.5 的规模与代价
fin 从 token 定价反推规模,给了几个关键数字:
GPT4.5 是 GPT4 的 10 倍规模(推测),刚推出时定价 $150/M,官方称为 "非常大而且计算成本高"(very large and compute-intensive model),是一次**"超大且昂贵"的实验性 base model**。 从 token 价格推测,GPT5 可能只有 5T 参数,GPT4 的 3 倍规模。
这个数字对比非常尖锐:GPT4→GPT4.5 走了 10x 规模,GPT4→GPT5 只有 3x。GPT5 不是"往上走"的产物,是"往回收"的产物。
fin 的判断:
GPT4.5 是大力出奇迹路线和商业可行性冲突的一次探索,于是四月的时候 OpenAI 就计划未来将 GPT4.5 下线了。
翻译过来:OpenAI 用一次公开实验证明了"scaling law 单靠 base model 继续暴力堆下去,商业上跑不通"。
1.2 GPT5 的信号:从 base model 升级到系统级升级
GPT5 出来之后,很多人失望——"就这?" 但 fin 从架构师视角看得出,GPT5 是一次转型宣言:
GPT5 就是典型,营销层面上也在淡化数字游戏,每年的提升不再单纯的聚焦 benchmark,而是更加全方位的提升:成本降低,幻觉减少,对用户刻意讨好改善,长上下文,一致性,多步思考推理机制等等——从单纯的 base model 升级变成了系统级升级,同时要考虑长线商业盈利。
在下一代新算力/数据/架构范式变革之前,benchmark 爆炸式上台阶的时代大概已经过去了。
这一句"下一代新算力/数据/架构范式变革之前"是关键——scaling law 没有失效,只是当前范式下的边际红利已经到了 GPT4.5 那个天花板。要再往上,需要新范式(test-time compute、reasoning、agent、多模态融合都是候选)。
二、模型定价学:大模型正在变成 fabless 芯片
2.1 一个非常漂亮的类比
fin 把大模型和 PC/手机芯片做了类比,逻辑清晰到吓人:
PC/手机每年的旗舰机芯片阉割之后变成次旗舰和中低端芯片——比如 Intel i7 芯片和 i5/i3 都是同样的设计同一批芯片,测试出来,性能最好的标为 i7,性能差一些的就降频、关闭核心,变成 i5 和 i3。 每一次换代之后,旗舰芯片的价格保持基本不变,性价比最高的就是 i5/i3,单核性能比上一代旗舰 i7 持平甚至更好,但是价格一半都不到。
大模型现在长什么样?
| 层级 | 价位 | 举例 |
|---|---|---|
| 当代旗舰 | $80/M | GPT-5 pro |
| 当代次旗舰 | $10~15/M | GPT-5(性能≈上一代旗舰 o1,价格 20%) |
| 上一代旗舰 | 逐渐退役 | o1 / GPT-4o |
fin 的判断:
以后每一代推出例行升级情况下,之前的 o3/4.1/4.5/o1 pro/o4 mini high 之类的命名就太复杂了,干脆把这些全部隐藏起来,由内部 router 去根据用户画像以及意图,去给出用最低成本让用户满意的模型。 每一代的次旗舰相当于前一代旗舰水平。 以前讲究的是手机贬值的速度,以后就是模型的贬值速度。
这段观察极其重要——它解释了为什么 ChatGPT 越来越"看不见模型选择菜单"、为什么 Claude 有 auto 模式、为什么各家都在往"一个入口 + 内部路由"演进。模型作为独立产品的时代在结束,模型作为系统组件的时代在开始。
2.2 成本结构的相似性
模型公司和 fabless 芯片公司的成本结构长得几乎一样:
| 芯片公司 | 模型公司 |
|---|---|
| 芯片设计(R&D,数亿美元) | 模型架构研发(数亿美元) |
| Tapeout(一次性 mask 成本,上亿美元) | 一次性预训练(数亿到十亿美元) |
| 每颗芯片边际成本($60~250/颗) | 每 M token 边际成本($10~150/M) |
看看这个巧合有多好玩:
2015 年的六七十美元一片手机旗舰芯片(连定价都如此相似 $70/M),随着台积电涨价和通胀,到了 2025 年的 200~250 刀一枚旗舰芯片。
十年之后,模型的旗舰定价也在 $80~150/M 这个区间。这不是巧合,这是相同商业形态的必然收敛。
2.3 我们其实在 2010 年的移动互联网
fin 的时代类比让人一激灵:
大模型的进步也一样,每一代的进步可能会让人失望(比如 GPT5 的平淡相比 GPT4 问世时候的炸裂程度),但是到十年后回看,仍然是非常不可思议的进步。
我们可能更像是在 2010~2012 年的移动互联网时代:手机经历了前面三四年的飞跃性成长,来到了一个稳定发展期。十四年前的手机芯片开始趋于稳定迭代,那时还不到 1B 晶体管数量(28nm 节点),十四年之后的今天,手机芯片已经接近了 30B 晶体管数量(3nm 节点)。
这十四年还包括了摩尔定律放缓的 2012 年到 2019 年整整七年,在功耗墙被手机卡死的情况下,仍然规模增长了 30 倍。
即便是每一代提升让人失望,这也仍然是指数发展的奇迹。
——这句话我要抄在墙上。因为它同时否定了两种偏见:AI 撞墙论(觉得 GPT5 平淡就说要凉了)和 AI 神化论(觉得每年都要爆炸性突破)。真正的技术进步,回看的时候永远比同期感受要惊人。
三、GPU 折旧论 vs 反折旧论:训练和推理的两条命
如果大模型迭代变成了"手机换代",那第二个问题自然浮出水面——训练花的那些 GPU 钱,到底能不能收回来?
2025 年下半年,"GPU 折旧论"成了 AI 泡沫论的新弹药。fin 用一整篇长推把这个叙事拆了。
3.1 折旧论的源头:Llama3 训练报告
GPU 实际使用寿命 2~3 年这个说法……最靠谱的溯源基本上指向了公开的 Llama 3 技术报告: Meta 在 2024 年训练 Llama 3.1 405B 模型时,使用了 16,384 个 H100 GPU,训练时长 54 天:
- 466 次中断,其中 419 次是非计划故障
- 平均每 3 小时发生一次故障
- 有效训练时间维持在 90% 以上
根据这次 54 天训练数据推算,年化 GPU 故障率(AFR)约 9%,最保守的估算 3 年累计故障率约 27%(超过 1/4 的 GPU 会在 3 年内失效)。
这是"GPU 只能用 2-3 年"论断的原始出处。市场据此得出:"CSP 财报里 6 年折旧年限是虚高利润率,实际 AI 云利润率极低,是在吹泡泡"。
3.2 fin 的三条反驳
反驳一:现在 AFR 已经比 Llama3 那时低了
Meta 这个训练数据推算是按中断次数算的,但并不是每次中断都 = 1 GPU 坏了。 训练时的硬件故障中断,其实有不少是重复来自于少数体质敏感易坏的 GPU。于是 Nvidia 也一直在优化 validation 流程,在训练之前的测试做的更好,剔除掉这些易坏的 GPU。 所以现在的 GPU 年故障率 AFR 跟以前比已经低不少了,我的估算可能是 <6%。
反驳二:训练 vs 推理是两条命
这条最关键:
训练用的 GPU 和推理用的 GPU,折旧率是否一样?很显然是不一样的。 推理用的 GPU 年折旧率一般要低得多,原因是推理的平均负荷要小得多,不会因为持续性高负载高温,对延长寿命是有帮助的。一般年故障率都不会到 3% 甚至更低(<2%),这部分 GPU 的寿命以 6 年算,是完全符合实际情况的。
那么在云上训练和推理 GPU 的比例如何,就决定了平均寿命折旧如何。 推理 GPU 的比例其实是快速上升的,和训练 GPU 比起来,不管是模型公司还是云公司的利润其实主要也来自于推理,而长远来看,推理的比例是一定会远高于训练的。
也就是说:CSP 财报里的 5-6 年折旧年限不是虚高,而是符合"推理占主导"的未来结构——只是这个未来还没完全兑现,账面上看起来"过于乐观"。
反驳三:残值论——旧 GPU 不会被淘汰
今天 CRWV 的财报里,CEO 直接否定了"旧 GPU 会因为 TCO 劣势被淘汰"这个说法: "我们有一个大型的多年期合同,原定于 2026 年续约。客户提前两个季度,主动以原协议价格 5% 以内的价格续签了基础设施合同。"
H100 在合同结束之后,新合同仍然能卖到原来合同 95% 的价格……而且连 A100 也全都卖光了。 现在只要不是公司里最重要的部门,要做 AI 推理就只能用五年前的 A100 而并没有寿终正寝,是很常见的现象。
这一条把"折旧论"的三条腿全砍了:AFR 高估、训练推理分开算、旧卡还能高价续约。
结论:GPU 折旧不是 AI 泡沫论的证据。
四、AI 泡沫的新形态:这次为什么和 2000 年不一样
折旧论破了,但泡沫是否存在这个问题还没答。fin 用了非常干净的对比:
4.1 互联网泡沫 vs AI 泡沫的结构差异
| 互联网泡沫(2000) | AI 泡沫(2025-) | |
|---|---|---|
| 基建端 | 光纤大量过剩(97% 未被使用) | GPU / 电力 / DC 全线短缺,backlog 爆表 |
| 价值捕获 | App 端(Amazon / Google / Yahoo) | App 端(OpenAI / Anthropic / Harvey) |
| 举债在哪里 | 基建端(大量 Telecom 破产) | App 端 + Cloud(OpenAI / Oracle 举债) |
| 泡沫破裂形式 | 基建过剩破产 | 应用端淘汰("算力破产") |
fin 的原话:
互联网:基建端基本独立运营,基建和应用是解耦的,需求是脱节的,基建过度价格崩塌,泡沫破裂的很惨。价值全产生在应用端公司,形成了生态错位。
AI:应用端驱动基建,因为应用被基建严重限制规模,从而被迫投资基建端,算力一直紧缺。
用最简单的方法判断泡沫会从哪破裂:看谁在举债。
互联网泡沫,举债的更多在基建端,价值捕获更多在 App 端 AI 泡沫,价值捕获在 App 应用端,而举债的也更多在应用端(以及云)
举债和价值捕获错位的地方,就是泡沫最脆弱的地方。互联网时代基建举债 + App 捕获价值 = 基建破产。AI 时代 App 举债 + App 捕获价值 = App 会破产,基建不会。
4.2 一个反直觉的悖论
fin 抛出了一个非常有意思的悖论:
一个反直觉的悖论:App 端的泡沫在于 AI/Agent 发展迭代的不够快! 做出的东西不够好,导致营收增速跟不上。 AI/Agent 发展不够快,在广大行业渗透不够,又部分是因为算力不够。 于是为了维持泡沫不破,算力投资和军备竞赛又会继续加强。 然后 App 端会出现大量输家被淘汰,因为算力投入而破产。
这个 loop 非常残酷但非常清晰:
App 需要 AI 变强 → 需要更多算力 → 算力投资加码
↓
发展跟不上营收增速 ← 部分 App 破产 ← 算力成本压垮 App
这一轮的泡沫破裂不会像 2000 年那样"基建端崩塌 + App 端狂欢",而是"基建端持续超级周期 + App 端大量出局,最后剩下几家寡头"。
4.3 一个先行指标:全社会 AI 采用率
fin 给了一个非常具体的观察指标:
一个参考指标是,企业渗透率接近 50% 的时候。 2000 年 3 月互联网泡沫破灭时候,美国互联网渗透率大概在 52% 左右(另有一组数据是 43%)。
目前互联网大厂的 genAI daily user 渗透率正在从 50% 向 90% 迈进,而广大行业公司的 AI 采用率不到 10%,增速暂时是有保障的,每一代科技革命增速最快的时候就是全社会公司采用率 10% 迈向 50% 的阶段。
翻译一下:现在这个位置类似 1996-1997 年,还有 3-5 年的加速期。真正需要警惕的是全社会渗透率接近 50% 的时候。
4.4 一句可能会被反复引用的收尾
fin 用了非常有诗意的一句话给"GPU 折旧论"那篇收尾:
算力把时间借给了应用,终究要用增长归还;还不上的,就是泡沫。能还清的,就是点亮文明的下一座灯塔。
五、繁荣性萧条:SDE 的诡异处境
有一条关联度极高的推特特别值得单独拎出来,来自 fin 2025 年 10 月对 Amazon 裁员 3 万人的评论——因为它把训练/推理经济学和职场现实连起来了:
今天 Amazon 裁员 3 万人,比 2022 年行业收缩期裁的还厉害,原因很简单: 买 GPU 的钱 capex 不够,导致 AWS 增速下降,被市场严厉的惩罚了,只能砍工资来省钱买 GPU,让财报好看一点。
GPU capex 在互联网公司正在创造一种诡异的繁荣性萧条:公司业绩增速很好看,股价也节节高升,但是员工的工资开支成了管理层腾挪不开的问题…… 这不是传统的行业萧条,而是资本在人力与算力之间的激进再分配。
看几个 data point:
- Amazon Q2 未完成订单 backlog 1950 亿美元,同比增长 25%——想买但 AWS 交付不了
- Meta 悄悄裁 AI org 600 人 + 各部门 director + 每半年 5% 悄悄裁员
- Meta 一年之内对未来 18 个月的 capacity 计划上修了三次,每次以为高估,几个月后发现是低估
fin 的判断链条:
opex(工资)换 capex 就能带来公司的业绩提升,资本会毫不留情的惩罚一切不把这条路线贯彻到底的 CSP / Hyperscaler。 内部 tool 耗费大量人力做各种 agent 功能……目标仅仅只是希望把大家的工作效率提升 ~20%。 接下来当公司提效遇到瓶颈,裁员也裁到只剩大动脉了,公司下一步只会继续牺牲现金流,甚至像 ORCL 一样,开始为了增速而不惜冒风险举债。
结论那句话我在上一篇里也引过,值得再引一次:
每一个互联网公司的 SDE 打工人,都应该买入 Nvidia / AMD 作为风险对冲,弥补自己被 GPU 挤出价值链的风险。
六、把四条线拼起来:训练时代的黄昏
一年多的推演拼起来,就是这样一张地图:
训练时代的黄昏
─────────────────
│
┌───────────────┬─────────┴─────────┬────────────────┐
↓ ↓ ↓ ↓
Scaling Law 模型商业化 GPU 折旧论 泡沫新形态
撞墙 fabless 化 破产
│ │ │ │
GPT4.5 (10x) 下线 旗舰 $80/M AFR 已 <6% 基建端超级周期
GPT5 (3x) 收缩 次旗舰 $10/M 训练 vs 推理 App 端大量出局
│ router 化 分开折旧 举债在哪里破在哪里
base model 时代 模型贬值曲线 A100/H100
结束 类似手机芯片 续约 95%
│
进入 test-time
compute / agent
/ 系统级升级
│
└────────────────────┬────────────────────────────────┘
↓
算力从"训练巨兽"转向
"推理 supercycle"
(2030 年推理占 60%+)
fin 把这个故事的三个核心结论浓缩起来,大概是:
- 训练侧:暴力预训练 scaling 的边际红利见顶。GPT4.5 是最后一次"大力出奇迹"的实验,接下来是系统级升级和 test-time compute。
- 商业侧:模型公司越来越像 fabless 芯片公司——一次性研发大成本 + 每 token 边际成本,旗舰 + 次旗舰 + mini 的 SKU 分层,router 化,模型作为独立产品的时代在结束。
- 泡沫侧:这不是 2000 年的互联网泡沫。基建没有过剩,只有短缺;举债在 App 端,泡沫破裂会从 App 端开始。而基建的超级周期"至少能维持到 2030 年"。
七、写在最后:训练时代结束,但 AI 时代刚开始
"训练时代的黄昏"这个题目其实是个双关——
它一方面指**"大力堆预训练"的黄昏**:GPT4.5 之后,我们大概不会再见到那种"这一代比上一代大 10x"的野蛮生长。
但它另一方面也指**"训练主导整个 AI 叙事"的黄昏**:过去两年,硅谷的每一个新闻都在问"下一代模型有多大、要多少 GPU 训"。而 2026 年之后,讨论会转向另一批问题——
- 每 token 的成本能压到多低?
- Test-time compute 能不能撑起下一波 scaling?
- Agent 的 CPU orchestration 需要什么样的硬件?
- KV cache offloading 到 SSD 到底能省多少 HBM?
- 异构推理系统怎么调度?
这些问题的重心,全部在推理和系统层,不在训练层。
fin 前面所有的推演——HBM 代代翻倍、CPU 第二春、Groq/LPU 生态位、异构推理——本质上都是这个转向的症状:训练不再是 AI 硬件叙事的中心,推理接棒了。
用 fin 那句话收尾——
AI 的技术浪潮不像是互联网,靠生态本身的繁荣和更多链接就能创造更多价值。 AI 的破坏性革命几乎是完全建立在模型的能力大小之上的,由此带来的范式转移影响也是建立在模型能力上的。 即便是每一代提升让人失望,这也仍然是指数发展的奇迹。
十年后回看今天的 GPT-5,可能就像今天回看 iPhone 4:当时觉得平淡,现在才知道那是一个时代的起点,不是终点。
附:本文素材来源
主线四推(全部出自 @fi56622380)
- GPT6/7/8 定价曲线 · 大模型 fabless 化(2025-08-18)——章 1-2 骨架
- GPU 折旧论 · AI 泡沫论新论据的破解(2025-11-11)——章 3-4 骨架
- Amazon 裁员 3 万 · 繁荣性萧条与 SDE 对冲(2025-10-28)——章 5 骨架
辅助素材
- 2025 半导体年度总结 · 训练→推理转移(2025-12-01)
- AI 半导体终局推演 2026 (I) · KPI 从算力转 HBM(2026-04-29)
姊妹篇
整理于 2026-07-31。观点全部归属原作者 @fi56622380。转述可能有解读偏差,读原推为准。

Written by
Zoe
AI Infra Engineer · LLM Serving · GPU/RDMA · 造工具的偏执狂