Agentic CPU 完全体：沉寂十年后 CPU 为什么又成了主角
Agentic CPU 完全体：沉寂十年后 CPU 为什么又成了主角
前情说明：这是一份"读推整理"，是《大模型硬件架构的终局推演》的姊妹篇——上一篇把 fin 一年半的推演拉成了一张全景图，这一篇专门把其中被市场严重低估的一条支线单独抽出来：CPU 的第二春。 素材来自 X 博主 @fi56622380（fin）2025 下半年到 2026 年 4 月的三条核心长推。所有加粗判断都来自原推。
起手：一个 2015 年就该退休的东西，怎么又火了？
如果 2020 年你跟一个数据中心架构师聊 "CPU 服务器的下一波增长在哪里"，大概率会被翻个白眼——
- 摩尔定律放缓，单核性能每代只涨 10~15%
- 云厂商超卖玩到极致，一台物理 CPU 卖成 6 台虚拟机
- 大 workload 都往 GPU / ASIC / TPU 迁移
- 服务器 CPU 供应商就俩半（Intel、AMD、加个 ARM 生态）
- 高通 2015 年、2022 年连续两次解散 ARM 服务器团队——市场都不信这条路走得通
结果十年过去，2026 年最热的芯片 startup 却是 CPU：
- Nuvia 团队五年后再度集结创立 Nuvacore，红杉领投 240M
- Amazon Graviton 2026 年产能全部售罄，多个客户想包产
- Nvidia、Google、Microsoft 全部自研 ARM 服务器 CPU 上线
- ARM 官方指引：CPU 供需缺口可能到 30% 以上
- 2030 年 CPU TAM 预测在半年里从 60B → 120B → 200B → 223B 四连跳
沉寂了近十年的 CPU 服务器业务，突然被重新拉回增长叙事的中心。为什么？
这一切的源头，几乎全部指向同一个词：agentic workload。
fin 用了三条硬核长推，把这个"CPU 完全体"的故事讲透了。本文按四条主线重组：
- 触发条件：GPU 时代为什么反而让 CPU 变紧俏
- 四层放大器：CPU 需求为什么会指数级上升
- 技术反通缩：为什么这次不能靠优化解决
- 供给端剧变：ARM 服务器的十年翻身仗
一、触发条件：GPU 时代为什么反而让 CPU 变紧俏
这条逻辑第一眼是反直觉的——AI 时代 GPU 才是主角，CPU 不应该被挤出价值链吗？
fin 的回答是：恰恰相反。GPU 越强，配套的 CPU 需求越大。
1.1 CPU:GPU 配比在系统性上升
看几家的最新架构：
| 平台 | CPU:GPU 配比 |
|---|---|
| GB200 / GB300 (Grace + Blackwell) | 1:2（36 Grace : 72 Blackwell） |
| AMD MI400 系列 | 1 |
| Google TPU + Axion | 1:1~2 |
| Amazon Trainium + Graviton | 1:1~2 |
| Nvidia Vera + Rubin | 系统级配对 |
传统"一个 CPU 带一堆 GPU"的1:4 配比已经过时。为什么？
因为推理时代的 GPU 变了——为了追求 token throughput，异构计算阶段变多、批处理数量 batch 越来越大、scheduling/routing/data flow 复杂度越来越高，orchestration 的要求同步变高。 CPU 不再是"GPU 旁边一个搭把手的"，而是整个 token factory 的总指挥。
这条逻辑在 2026 年基本已经成为业界共识。但 fin 说，这只是 CPU 复苏叙事的第一层——而且是最不重要的一层。真正的爆点在后面。
1.2 Agentic workload 里 CPU 是"永远在忙的 orchestrator"
fin 引用了对常用 agentic 框架的 profiling 数据（SWE-Agent, LangChain, Toolformer）：
CPU 最长可以占到 90% 的 E2E 端到端延迟 CPU 甚至能耗都超过了总能耗的 40% throughput 瓶颈也更多的卡在 CPU
这些数字第一次看到会让人以为读错了——不是应该 GPU 才是能耗大头吗？
但仔细想一下 agent 的工作流：routing、工具调用、结果解析、下一步决策、状态维护、多轮上下文管理——这些全部是 CPU 做的事情。GPU 只在真正做 inference 那一小段时间是主角。agent 越复杂，CPU 忙的时间比例越高。
AMD 的 Lisa Su 在 2025 年 Q2 财报（8 月 5 日）里明牌了这个现象：
"In particular, adoption of agentic AI is creating additional demand for general-purpose compute infrastructure, as customers quickly realize that each token generated by a GPU triggers multiple CPU-intensive tasks." （译：agentic AI 的采用正在对通用计算基础架构产生额外的需求，因为客户很快就意识到 GPU 产生的每一个 token 都会触发多个 CPU 密集型任务。）
Q3 财报里 Lisa 又明牌了一次：
"Many customers are now planning substantially larger CPU build outs over the coming quarters to support increased demands from AI, serving as a powerful new catalyst for our server business."
fin 的定性一针见血：
Agent 是 "GPU 手脚上的每一次协调都要 CPU 参与" 的事情。API 就像是 GPU 的手脚，CPU 是永远在忙的总指挥。
二、四层放大器：CPU 需求为什么会指数级上升
如果 agent 只是让 CPU 多忙一点，那顶多是线性增长。但 fin 拆出来的四层放大器，让这个故事变成了指数级。
2.1 第一层：CPU:GPU 配比从 1:4 到 1:1
前面说过。但需要注意 fin 的一句话：
这部分主要是各家 AI 芯片自研（Grace / Axion / Graviton / Vera），并不是纯粹的 CPU 服务器机会。
也就是说这一层的红利主要归 Nvidia / Google / Amazon 自己吃了，Intel / AMD 分不到多少。但这一层已经是 2026 年 CPU 短缺的直接触发器。
2.2 第二层：agent 里 CPU 占 50~90% 延迟
也是前面讲的。这是结构性的比例变化——一个 agent 调用的 CPU 数量会随着 agent 复杂度、工具数量、多轮对话长度同步增长。
fin 的原话：
每一个 GPU 产生的 token 每一代是翻倍的，那么以后每一个 GPU 能批量同时支持的 agent 也是越来越多的，也就对应了调用的 CPU threads 也越来越多。 CPU shortage debt 会越来越多，早晚要还的。
2.3 第三层（被市场严重低估）：Coding agent 的 Jevons 悖论
这是 fin 认为最重要、最长线的一条，而且和 agent 本身没有直接关系——
从 2025 年年底开始，coding agent 迎来了质变。Claude Code 三个月的 token 营收增长了三倍，那么导致的下一步必然是 Code 量的十倍增长，以及 App 数量的巨量增长。
即便是在大厂，每天 1M token 消耗只能算是个平均水平，人均 coding 量必然是翻倍的（小厂就是翻十倍了），code 供给量暴增，不会只停留在 repo 里，而会逐步变成更多长期运行的软件资产，长期存活的 feature 变多，product 变多，microservice 变多，API 变多。
长线来看，App / API 所有的生产成本和生产周期会变成原来的 10%，API 实现极大富足。那么 API 的 Usage 就会大量的上升，这就会造成传统 CPU Workload 或者说 CPU Seconds 大量的上升。
这就是 Jevons 悖论在软件供给端的展开——历史上每次某种资源（煤、算力、带宽）变便宜，社会不但没有少用，反而用得更凶。
fin 的结论：
当软件变便宜，社会不会少用软件，只会把更多事情软件化。 所以也许到下半年甚至更久才会看到，传统 CPU 云的需求又莫名其妙增加了，表面上看，甚至和 AI agent 没有直接关系。
这条逻辑的关键词是长线——Claude Code 的爆炸是这几个月刚发生的事情，产品上线、microservice、API 上线可能要向后延迟半年到一年。真正的 CPU 需求爆发还没到。
2.4 第四层：Sandbox 的浪费红利
这条来自 fin 的 6 月 DRAM 推：
Sandbox 为保障数据安全与隔离，如 Analytical Agent 需为每个任务复制大量数据库和用户上下文，导致内存 (DRAM) 和 CPU 核心的严重浪费——而且这个浪费问题五年甚至更久无法解决。
Agent 的隔离要求让每个任务都要独立环境——数据库 fork、用户上下文 clone、临时文件系统隔离——这些技术上很难压缩。而且这不是设计问题，是安全底线要求，短期无解。
2.5 四层叠加起来是多大？
看几个数字锚点：
| 时间 | 2030 年 CPU TAM 预测 | 提出方 |
|---|---|---|
| 一年多前 | 60B | AMD |
| 两个月前 | 120B | AMD / ARM（翻倍） |
| 一个月前 | 200B | Nvidia（再翻倍） |
| 上周 | 223B | Bernstein |
| fin 预测 2031 | 400B | 他自己 |
半年时间，2030 年预测从 60B 涨到 223B——接近 4 倍。而 fin 认为 2031 年上修到 400B "没有太大悬念，唯一的悬念是几个巨头什么时候宣布"。
三、技术反通缩：为什么这次不能靠优化解决
这是 fin 整个 CPU 论述里最容易被忽略的核心——为什么这次 CPU 缺不能靠"用更好的算法"或者"用更好的硬件"来解决？
3.1 存储/内存有各种压缩红利
看看内存/存储那边有多少通缩通道：
| 技术 | 压缩比 |
|---|---|
| GQA (Grouped Query Attention) 共享 head | ~4x |
| TurboQuant | 几 x |
| FP16 → FP4 精度下降 | 4x |
| PagedAttention / KV cache 复用 | 2~4x |
这些技术每一年都在把"每 token 需要多少内存"往下压。存储和内存的技术通缩是持续的。
3.2 CPU 是技术层面通缩量极小的东西
fin 原话：
CPU 是一个技术层面上通缩量很小的事情，目前任何的 agentic 的 CPU workload（CPU seconds）增长都是硬件需求增长，它通缩的方面只有每年每一代跑分提高的 10% 到 15%。
也就是说：
- 存储需求：因为压缩算法，硬件需求 = workload / 压缩比
- CPU 需求：因为没有类似的压缩通道，硬件需求 ≈ workload × 1
有人会问：那云的超卖呢？6 倍 CPU 超卖不算通缩吗？fin 也答了：
云的 5~6 倍超卖会不会影响？不会，因为它一直是超卖的，所以说超卖/利用率低这个 CPU 技术通缩的因素不会继续扩大了，每个增长的 CPU seconds 都是不怎么带打折的硬件线性增长。
翻译过来就是：超卖已经吃过了、红利已经用完了、只能靠加物理硬件。
这条一旦被市场理解，CPU 就变成了一个非常"硬"的赛道——需求增长必须转化为硬件订单，几乎无优化余地。
3.3 一个反例：为什么 CPU 的价格现在还没涨疯
fin 有一条 4 月的推特别有意思。当时有分析师说 "CPU 不能像 memory/optics 那样猛涨价，因为 CPU 只涨了 10%"，fin 反驳的方式是：
他的前提是每块 GPU 带几个 CPU 的比例是主要的 CPU 增量："如果没有 MI308X，Q4 Data Center 只会比 Street 高不到 1%"这个 data point 很有价值，充分说明了现在 CPU 增长的来源，agentic flow 带来的增量几乎为零。
但是很明显未来并不是这样，软件 API 调用是指数型上升的，现在还处于完全没有起步的微小阶段。
我们要用动态的眼光看问题。 我的 datapoint 反而支持了我的论点：软件 API 调用指数型增长的机会，目前仍然是零的情况下，CPU 已经涨价 20%，已经供不应求了。那等软件 API 调用指数型增长的时候，CPU 得涨价多少？
这段话我觉得是 fin 整个 CPU 系列里最见功力的一段——你以为的顶部，只是引擎还没点火的样子。
四、供给端剧变：ARM 服务器的十年翻身仗
需求端拆完了。供给端呢？
4.1 ARM 服务器：从零到 50% 只用了七年
fin 在 Nuvacore 那篇里给了一段非常好的历史回顾：
2019 年，ARM CPU 服务器市场占有率几乎为零——那时 Nuvia 想从零开始打通这个市场 2021 年，Nuvia 被高通 14 亿美元收购 2022 年，高通管理层短视，二次解散 ARM 服务器团队 2025 年，Nvidia Grace ARM CPU 已经发布四年，Amazon Graviton 快占据 CPU 服务器新出货的 50% 了，高通才后知后觉重启项目
现在的 hyperscaler 新增 CPU 里：
- Google Axion
- Amazon Graviton（2026 年产能已全部售罄，客户抢产）
- Microsoft Cobalt
- Nvidia Grace / Vera
- Anthropic 用 Trainium+Graviton 组合
接近 50% 的新增服务器 CPU 都是 ARM。这是七年前 fin 自己写 Nuvia 早期分析时都不敢想的数字。
4.2 为什么集体转向 ARM？
fin 的答案有两条，第一条是老生常谈的成本，第二条更重要：
推理系统为了追求 token throughput，batch 越来越高越做越复杂，自研 ARM CPU 以及系统性软件硬件的 co-design 会更方便，比如 Nvidia 是 Dynamo 去控制 Vera 和 Rubin 之间的协同。
也就是说 ARM 服务器不只是 x86 的便宜替代品，而是为异构推理系统级 co-design 而生的。Vera 不是一颗独立 CPU，是 Rubin 生态的一部分。Axion 不是独立卖 CPU，是 TPU 系统的一部分。
这个逻辑一旦成立，Intel / AMD 的传统 x86 服务器路线就非常被动——你不是在跟一颗 CPU 竞争，你是在跟整个 rack 系统竞争。
4.3 Nuvacore：踩在完美的时间点上
fin 4 月那篇《Nuvacore · 数据中心 CPU 最好的时代》几乎是给这场翻身仗写的宣言：
Gerard 在创立 Nuvia CPU 被高通收购五年之后，重新出发，新创立了 ARM CPU 公司，名字也跟之前非常像，叫 Nuvacore。 现在这个时间点做数据中心 CPU，确实是赶上了 CPU 十年来最好的时代。
Nuvacore 的融资故事比 Nuvia 时代想象力大得多：
- 已经验证过的路径（Nuvia 两年后 14 亿美元卖给高通）
- 已经验证过的团队（Gerard 从苹果、Google 挖来的 platform architecture 组）
- 红杉领投 240M
- 上一次 Nuvia 是 "从零开始打通 ARM 服务器"；这一次 Nuvacore 是 "在明确的爆发风口上做 rack 级 AI-native CPU"
fin 的定性："AI 时代的 CPU 前景真的太广阔了，完全值得重新投入一次。不是 Gerard 变了，而是外部市场变了。"
4.4 但挑战也比七年前大
fin 没有单纯吹这条赛道，他也点出了 Nuvacore 面临的真实挑战：
起步太晚了，无论是市场上，还是技术上，竞争都激烈了很多。CPU 服务器和七年前比，已经复杂了很多，已经不再是单片 CPU 的竞争，而是 rack 系统级别的复杂度。 现在开始做 2028~2029 年上市的 CPU，要做到 rack 级别有竞争力，规模要大很多，基本上要几十个 chiplet，500+ 个 core 拼起来，还要考虑如何适配 AI agentic workload，工作量比以前明显要大的多。
这也就是为什么现在的 CPU startup 不再是 "做一颗好芯片" 那么简单——是要做一整套 rack + interconnect + agentic workload 优化能力。门槛在系统层，不在芯片层。
4.5 出路：卖身还是自己长大？
fin 给了 Nuvacore 一份"未来买家清单"：
| 潜在买家 | 可能性 | fin 的评价 |
|---|---|---|
| Softbank / Arm 系 | 最高 | 已收 Ampere（65 亿），生态在扩，逻辑通顺 |
| Meta | 中等 | Silicon house 缺稳定 CPU，但"决策每月都在变，稳定性极低，是非常糟糕的买家" |
| 已有 Axion | 无动机 | |
| Microsoft | 已有 Cobalt | 无动机 |
| Amazon | 已有 Graviton | 无动机 |
| Nvidia | 已自研 Vera | 无动机 |
fin 的建议是——别急着卖：
Nuvacore 的选择肯定比五年前宽了太多了，对 ARM CPU 服务器的潜力大家的共识都很明确，融资的难度要小很多，自己运营扩张起来，阻力比以前小很多。 完全可以自己做大到比 Nuvia 当年更大的规模再考虑出路，根本不着急卖。
五、把这四层拼起来：AI 时代 CPU 的完全体
fin 一年多的推演拼起来，AI 时代的 CPU 长这个样：
┌─────────────────────────────────────┐
│ Agentic CPU 完全体 │
└─────────────────────────────────────┘
│
┌───────────────────┬───────┴──────┬────────────────┐
↓ ↓ ↓ ↓
需求四层 反通缩 供给剧变 价格宿命
│ │ │ │
1:2/1:1 配比 CPU seconds ARM 占新增 "现在涨 20%
agent 50~90% 延迟 ≈ 硬件需求 50% 是引擎没点火"
coding Jevons 无压缩通道 Vera/Axion API 指数增长
sandbox 浪费 超卖已用尽 /Graviton 才是真正爆点
│ │ │ │
└───────────────────┴──────┬───────┴────────────────┘
↓
2030 年 CPU TAM 400B
（2 年内从 60B 到 400B）
如果只能记住三句话：
- CPU 已经不再是 GPU 的配角，它是 agent 时代 token factory 的总指挥，占 50~90% 延迟。
- CPU 的需求增长几乎无法靠优化通缩——不像内存/存储有 GQA / FP4 / KV 压缩这些红利，CPU seconds 增长≈硬件需求增长。
- ARM 服务器已经赢了——不是"未来会赢"，是"已经占新增 50%"，剩下就是量的问题。
六、写在最后：一个 SDE 的职业风险对冲
fin 还有一条 2025 年 10 月的推特别有意思，讲的是Amazon 裁员 3 万人这件事：
今天 Amazon 裁员 3 万人，比 2022 年行业收缩期裁的还厉害，原因很简单——买 GPU 的钱 capex 不够，导致 AWS 增速下降，被市场严厉的惩罚了，只能砍工资来省钱买 GPU。 每一个互联网公司的 SDE 打工人，都应该买入 Nvidia / AMD 作为风险对冲，弥补自己被 GPU 挤出价值链的风险。
放在这篇文章的语境里，可以再延伸一层：
- 半导体在吞噬 IT 利润 → SDE 的 headcount 会被 GPU 预算挤压
- CPU 供不应求 → AWS Graviton 产能卖光 → 云成本会传导到 SaaS 定价
- coding agent 让代码量爆炸 → SDE 的产出方式在变
- 但 CPU 需求会因为 SDE 效率提升而指数上升 → 服务器端的机会还在
一个 SDE 打工人的结构性对冲组合大概长这样：
- 半导体龙头（Nvidia / TSMC / SK Hynix）
- ARM 服务器 CPU 供应链（ARM / Marvell / 潜在的 Nuvacore）
- 苹果（作为消费电子涨价潮的最大受益者）
- 尽量把自己变成能用 AI coding 十倍产出的人
fin 说的话，我借来收尾：
这不是需求驱动，这是架构驱动。 不是"AI 需求好"，而是"硬件的第一性原理必须要这么走"。 CPU 的第二春不是回光返照，是从零开始的新一轮 supercycle。
十年前那些觉得 CPU 该退休的架构师，可能现在开始意识到——下一波 supercycle 里，最先短缺的可能就是 CPU。
附：本文素材来源
主线三推（全部出自 @fi56622380）
- Nuvacore · 数据中心 CPU 十年来最好的时代（2026-04-16）——本文骨架来源
- CPU 增长来源与 agentic flow 的 datapoint 拆解（2026-04-18）——反驳"CPU 不会大涨"论
- AI 半导体终局推演 2026 (II) · agentic CPU 与 DRAM 需求（2026-06-25）——DRAM/core 两层放大器
辅助素材
- 2025 半导体年度总结 · CPU orchestration 章节（2025-12-01）
- Amazon 裁员 3 万 · SDE 应买入 Nvidia 对冲（2025-10-28）
整理于 2026-07-31。观点全部归属原作者 @fi56622380。转述可能有解读偏差，读原推为准。
Written by
Zoe
AI Infra Engineer · LLM Serving · GPU/RDMA · 造工具的偏执狂