body>
在AI浪潮兴起之前,CPU一直是服务器中最重要、最昂贵的组件。但AI训练和推理的主力变成了GPU,CPU似乎沦为"配角"。然而,随着AI智能体(Agent)的爆发,CPU重新回到了性能瓶颈的中心。
核心洞察:AI智能体每次调用模型时,CPU需要完成请求编排、工具调用、上下文管理、内存调度等"杂活"。GPU越快,CPU的调度压力越大——如果CPU跟不上,GPU就会空等,浪费算力。
英伟达Vera CPU正是为解决这个瓶颈而生。它不是通用服务器CPU,而是AI智能体专用处理器——专门优化了智能体运行中的调度、编排和并发能力。这一定位使其与Intel Xeon和AMD EPYC形成了差异化竞争。
DeepInfra平台每周处理近5万亿Token,其中约30%来自智能体应用。这个数据说明:AI智能体已经是生产环境中的主流负载,不再是实验项目。通用CPU已经跟不上智能体时代的需求。
Vera是英伟达首款从CPU核心开始自主设计的服务器处理器,不采用Arm提供的现成核心设计。这是一个重大战略转变——研发投入更高,但自主可控程度也更强。
| 参数 | Vera CPU | Intel Xeon 6982P | AMD EPYC 9754 |
|---|---|---|---|
| 核心架构 | NVIDIA Olympus(自研) | x86 Granite Rapids | x86 Bergamo |
| 核心数 | 88核 | 128核 | 128核 |
| 制程工艺 | TSMC N3E(3nm增强) | Intel 3(4nm级) | TSMC 5nm |
| 内存支持 | 1.5TB LPDDR5X | 6TB DDR5 | 12TB DDR5 |
| 内存类型 | 低功耗LPDDR(笔记本/手机用) | 服务器DDR5 | 服务器DDR5 |
| 功耗范围 | 250W-450W | 350W-500W | 320W-400W |
| 设计理念 | 单核性能优先 | 核心数量优先 | 核心数量优先 |
英伟达选择自研核心而非使用Arm公版设计,原因有三:
关键数据:Vera采用TSMC N3E(3nm增强版)工艺,是英伟达首次在CPU产品上使用3nm制程。88核Olympus核心,内存带宽达1.2TB/s,支持最高1.5TB LPDDR5X低功耗内存。
DeepInfra作为英伟达开放AI生态系统的早期体验参与者,独立设计并运行了基于其生产型AI代理基础设施的基准测试。结果令人瞩目:
具体基准测试结果:
实际意义:对于AI云服务商来说,2.2倍编排速度+1.6倍并发意味着——同样数量的服务器,可以服务1.6倍的智能体用户,每个用户的响应速度提升2.2倍。这直接转化为收入增长和成本下降。
DeepInfra每周处理5万亿Token,30%来自智能体。如果全部迁移到Vera CPU,相当于每周多处理1.5万亿Token的智能体流量,而不用增加服务器数量。
Vera CPU不是孤立产品,而是Vera Rubin机架级AI超级计算机的核心组件。该平台整合了七款共同设计的芯片:
| 组件 | 角色 | 关键指标 |
|---|---|---|
| Vera CPU | AI智能体编排 | 88核, 1.5TB LPDDR5X |
| Rubin GPU | AI训练/推理 | 下一代架构, 全面量产中 |
| NVLink 6 | GPU-GPU互联 | 超高带宽互联 |
| ConnectX-9 SuperNIC | 网络接口 | 超低延迟网络 |
| BlueField-4 DPU | 数据处理单元 | 网络/存储卸载 |
| Spectrum-6交换 | 以太网交换 | 102.4Tbps单交换容量 |
| (第七颗未公开) | 推测为安全/管理芯片 | 待公布 |
这种"超节点"设计思路是:不再用单个芯片的性能衡量AI基础设施,而是用整个机架的协同效率。每个芯片各司其职——GPU负责算力,CPU负责调度,DPU负责网络,交换机负责互联——形成一个完整的"AI工厂"。
CoreWeave的测试显示,Vera Rubin NVL72相比Grace Blackwell NVL72,每兆瓦可实现10倍Token吞吐提升。这意味着同样功耗下,AI产出提升一个数量级。
英伟达进入CPU市场,正式向Intel和AMD两大巨头发起挑战。但这场竞争不是简单的"谁的核心更多",而是路线之争。
| 维度 | NVIDIA Vera | Intel Xeon 6 | AMD EPYC 9004 |
|---|---|---|---|
| 设计哲学 | AI专用,单核优先 | 通用均衡,核数优先 | 通用均衡,核数优先 |
| AI智能体性能 | 基准(2.2x) | ~0.5x(基准线) | ~0.5x(基准线) |
| GPU协同 | 原生NVLink + 统一内存 | PCIe + CXL | PCIe + CXL |
| 生态成熟度 | 新入者,软件栈在建 | 极成熟(x86全生态) | 成熟(x86全生态) |
| 客户迁移成本 | 高(需重新适配) | 低(x86兼容) | 低(x86兼容) |
| 最佳场景 | AI智能体推理/编排 | 通用企业计算/数据库 | 高密度虚拟化/云主机 |
Vera的劣势:作为新入者,Vera的软件生态远不如x86成熟。传统企业应用(ERP、数据库、中间件)大多依赖x86指令集,迁移到Arm架构需要重新编译和测试。Vera目前只适合AI原生场景,不适合混合负载。
但英伟达的策略很明确:不争"通用CPU市场",只争"AI CPU市场"。而AI CPU市场正在指数级增长——随着智能体用户从0到1000万再到1亿,对AI专用CPU的需求将远超通用CPU。
Vera的功耗范围为250W至450W,处于服务器CPU的较高水平。但选择LPDDR内存(通常用于笔记本和手机)是一个有趣的设计决策:
每兆瓦Token吞吐提升10倍这个数据更值得关注。在AI数据中心面临电力瓶颈的当下(纽约州甚至暂停了数据中心审批),能效比比绝对性能更重要。Vera Rubin平台在单位功耗下的产出提升一个数量级,意味着同样的电力配额可以支撑10倍的AI算力。
英伟达的"五层蛋糕"正在闭环:
微软与Mistral AI的数十亿欧元合作中,基础设施就基于数千颗Vera Rubin GPU。OpenAI、Anthropic、SpaceX已是Vera芯片的首批客户。这些顶级客户的采用,为Vera生态提供了初始动能。
战略要点:英伟达不只卖芯片,卖的是"AI工厂整体方案"。客户买的不只是CPU+GPU,而是一个从硬件到软件到运维的完整解决方案。这是Intel和AMD难以复制的壁垒。
评分解读:Vera CPU在AI智能体性能和架构创新上接近满分,是目前最强的AI专用CPU。但生态成熟度和通用兼容性是明显短板——它不是"什么都做得好"的CPU,而是"AI智能体做得最好"的CPU。
英伟达Vera CPU标志着CPU市场正式分化为"AI专用"和"通用"两个赛道。在AI智能体爆发的当下,Vera以2.2倍编排速度和1.6倍并发支持树立了新标杆。虽然生态和兼容性还需时间完善,但对于AI原生场景,Vera已经是目前最优的选择。
随着OpenAI智能体用户突破1000万、WAIC 2026展示国产十万卡超集群,AI基础设施正在经历从"通用"到"专用"的范式转移。Vera CPU是这个转移的第一个标志性产品。