NVIDIA Vera Rubin 平台首测：DeepSeek 吞吐暴涨 30 倍，不是数字游戏，是推理成本的结构性重构

你可能对”30 倍吞吐量”这个数字没什么感觉。

毕竟 AI 圈每年都有新的算力纪录刷新，GPU 更新换代的速度比手机还快，习惯了之后，难免产生数字疲劳。但这次我想认真聊聊，为什么 NVIDIA Vera Rubin 平台的这条新闻，值得你停下来想一想。

不是跑分，是实测

8月26日，NVIDIA 官方披露了下一代推理平台 Vera Rubin NVL72 的首批实测数据。

具体数字是这样的：在运行 DeepSeek V4 Pro 模型进行智能体编码任务时，Vera Rubin NVL72 相比现役主力 GB300，吞吐量最高提升约 30 倍，每百万 Token 成本最高降低 35 倍。

注意措辞——“实测”，不是”峰值跑分”，不是”理论算力”。是真正的、在特定任务上测出来的数字。

Vera Rubin NVL72 是什么？它是 NVIDIA 采用全新架构设计的机柜式推理集群，72 个 GPU 通过 NVLink 5.0 互联，配合第六代 NVLink、KV 感知路由和 NVFP4 量化等技术，实现了推理任务的分布式全调度。换句话说，推理终于第一次可以像训练一样，调动整台机器的计算能力了。

过去推理受限于”通信带宽瓶颈”——GPU 之间传数据太慢，模型推理只能用到一个节点的一小部分算力。现在这个问题在硬件层面被重新设计了。

DeepSeek 为什么是主角

这条新闻里有一个细节，我觉得比”30 倍”本身更值得玩味：NVIDIA 这次的优化是专门针对 DeepSeek 系列模型做的。

DeepSeek 是什么？它是过去一年全球增长最快、调用量最大的开源大模型之一。全球 63.5% 的大模型调用量来自中国，DeepSeek 是其中的主力。它被 Cursor、Devin、Harvey 等无数 AI 产品选作底座。

NVIDIA 专门为它优化，意味着什么？意味着开源模型的实用价值，已经高到让全球最顶级的芯片厂商专门投入工程资源去适配。这本身就是一种认可。

推理成本的结构性重构

我觉得这条新闻最重要的意义，不是”某家芯片公司又发了新品”，而是它代表了一种趋势：AI 推理，正在从”奢侈品”变成”大宗商品”。

过去，AI 推理的成本高得离谱。用 GPT-4 做一个复杂任务，API 费用可能比人工还贵。所以企业只能用 AI 处理”最值钱”的那部分工作，其余的仍然靠人。

现在，如果推理成本降低 35 倍，逻辑就完全变了。AI 能做的事情会指数级扩张——实时视频理解、多轮对话助手、个性化 AI 写作……这些过去”太贵太慢”的场景，忽然之间都有了可行性。

对普通用户来说，这意味着 AI 应用的降价潮可能真的要来了。对开发者来说，这是一个巨大的机会——过去那些”理论上能做，但成本划不来”的产品，现在可以重新做了。

一个值得关注的小细节

这次 NVIDIA 还提到了一个配套变化：原有的基准测试（反映模型能力的传统指标）正在被 AgentX 测试取代，后者专门针对 AI 智能体设计，加入了工具调用、上下文增长等真实任务维度。

换句话说，评估 AI 能力的标准，正在从”模型有多聪明”转向”模型能完成多少真实任务”。这个转变本身，也是整个行业走向成熟的信号。

30 倍听起来很夸张。但当你把它放进这个更大的叙事里——推理成本下降、开源模型被主流硬件认可、AI 能力评估标准转向真实任务——你会发现，这个数字只是一个更大故事的一个注脚。

故事的核心是：AI 正在变得更快、更便宜、更真实可用。而这一天，可能比我们想象的更近。