登录

英伟达Rubin GPU详细架构首曝:性能10倍提升!


速读:2026年07月23日12:46快科技快科技7月23日消息,英伟达官方发布了RubinGPU架构技术详解,这也是英伟达即将推出的VeraRubin平台的核心计算单元。 Rubin内存带宽相比Blackwell提升2.8倍。 Rubin简化MoE描述符管理机制,右为Rubin架构。 BF16/FP16吞吐相比GB200提升4倍,相比GB300提升2倍。
2026年07月23日 12:46

快科技7月23日消息,英伟达官方发布了Rubin GPU架构技术详解,这也是英伟达即将推出的Vera Rubin平台的核心计算单元。

根据官方公布的数据, 在单位能耗下,Rubin NVL72+Vera CPU的Agentic AI推理吞吐量,相比Blackwell NVL72+x86 CPU提升最高可达10倍。

Vera Rubin平台相比Blackwell的10倍智能体推理性能提升

完整的Vera Rubin NVL72机架由36个Vera CPU和72个Rubin GPU组成,有关Vera CPU我们已经介绍过,今天的重点是Rubin GPU。

整体来看,Rubin GPU采用台积电3nm N3P制程工艺,由两颗计算芯粒组成,通过NVIDIA高速片间互联接口NV-HBI统一在单个封装上。

整颗芯片集成3360亿个晶体管,拥有224个SM流处理器和896个Tensor Core张量核心,搭载第三代Transformer引擎,可提供最高50 PF的NVFP4推理性能。

Rubin GPU芯片架构框图

显存方面,Rubin集成最高288GB HBM4,共配置8组12-Hi堆叠,峰值带宽达22TB/s,相比Blackwell和Blackwell Ultra提升2.8倍。

Rubin内存带宽相比Blackwell提升2.8倍

此外,第六代NVLink提供3600GB/s扩展带宽用于GPU间全互联通信,NVLink-C2C提供1800GB/s用于CPU-GPU一致性通信,PCIe Gen6 x16提供256GB/s主机连接。

针对当前主流MoE(混合专家)模型的扩展瓶颈,Rubin增强了Tensor Memory Accelerator(TMA),通过优化描述符管理机制,可更高效地定位和调度专家权重,减少数据搬运开销。

多个内核还可为共享相同布局的张量保留统一描述符,在运行时直接通过TMA指令覆盖内存指针和步长等字段,减少元数据管理和数据搬运开销,让更多GPU时间用于实际推理计算。

Rubin简化MoE描述符管理机制,右为Rubin架构

Rubin另一项核心升级是Tensor Core,每时钟周期的K维度吞吐量翻倍,意味着更少的循环迭代次数, Blackwell需要4次K迭代的GEMM运算,Rubin只需2次即可完成,减少了循环开销并提高了Tensor Core利用率。

左为Blackwell,右为Rubin

长上下文注意力加速是Rubin的另一大升级,Rubin将激活稀疏化与自适应压缩结合,将中间数据加载为2:4稀疏格式,仅保存非零数据及对应元数据。

后续softmax和第二注意力GEMM均可基于非零值运算,同时保持最终输出仍为标准Dense格式,在不改变模型接口的前提下减少计算量和数据搬运。

此外,Rubin还提升了Softmax及指数运算性能,FP32吞吐达到GB300水平,是GB200的2倍;BF16/FP16吞吐相比GB200提升4倍,相比GB300提升2倍。

Rubin自适应压缩稀疏化

在内核间依赖调度方面,Rubin实现了比Blackwell更精细的协调,Blackwell启动允许Kernel更早开始工作,但仍需等待激活数据可用。

而Rubin支持瓦片级触发,允许后续Kernel在所需输入数据准备完成后即可提前启动,不用等待更大范围的工作完成,从而压缩GPU时间线中的空闲间隙。

上为Blackwell批量触发,下为Rubin瓦片级触发

GPU间通信方面,Rubin引入了计数写入(Counted Writes)机制用于设备发起的NVLink通信。传统GPU间数据传输需要额外的协调和同步步骤,计数写入则允许接收端GPU更高效地跟踪传输完成状态,减少同步延迟,让计算不必等待同步操作。

通过计数写入加速NVLink通信,左为Blackwell,右为Rubin

在机架级能效管理上,Vera Rubin NVL72将计算、网络、液冷、功率调节和智能功率平滑整合为单一执行域。 系统通过集成储能模块,可吸收GPU瞬时功率波动,平均功耗降低约10%,50毫秒峰值功耗降低约20%。

英伟达还推出DSX OS操作系统,其中集成DSX MaxLPS,可统一管理GPU、机柜、液冷系统以及AI工作负载,可在相同功率预算下多部署最多40%的GPU。

【本文结束】如需转载请务必注明出处:

新浪众测

新浪众测

新浪科技公众号

新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

OpenAI抢后台,马斯克抢前台

陌陌母公司挚文季报图解:营收24亿净利降19% 唐岩刚获派息超8000万

风口上的AI短剧人,如履薄冰

十年雅迪717 “智能痛车” 让Z世代集体“上头”

被日本卡脖子20年!中国“芯片刻刀”终于出鞘:保证28nm及以下先进制程

打破不可能!鲲鹏920运行Windows 11 ARM:成功驱动RTX 4060

华为手机重返巅峰:韬定律麒麟芯片将是转折点

猴不够用了!中国一公司靠养5万只猴 半年赚超了7亿

享界S9抢先体验!华为乾崑智驾ADS 5新功能曝光:挥手就能把车开出来

理想汽车诉“电车小飞”侵权终审胜诉 博主多平台直接被销号

2026上半年中国教育行业融资风向报告,创投圈的钱都去哪了?

小红书赌赢了

华为首款10000mAh手机登场!麒麟8系打造中端续航王者

马斯克母亲大赞中国环境治安好 吐槽纽约脏乱差

吉利银河TT Ultra纯电性能轿跑开卖:首发限量999台27分钟被抢空!

宗馥莉再次败诉!律师解读:香港高等法院裁决并非已认定18亿美元资产最终归属

苹果iPhone 18 Pro系列涨价成定局!台积电敲定2027年涨价最高达10%

陈震洛杉矶试驾特斯拉FSD:直言是在帮着美国人“降智”

新型“飞碟”卫星:哈工大学生研制“紫丁香三号”成功发射,已传回首段视频

马斯克宣布将用 AI 拍摄《奥德赛》长篇电影:全白人班底以确保符合史实,且忠于荷马艺术

Netflix《机动战士高达》真人电影杀青:传奇影业与万代南梦宫联合打造,“悉尼妹”主演

苹果将在美国推月租iPhone 17等业务:欠费停用 防止拆零件等行为!

消息称 BBA 主力车型今年集体降价,奥迪销售人员称最高优惠 16 万元

主题:相比Blackwell