黄仁勋算了一笔经济账,英伟达决定用“预制工厂”抢回数据中心工期
近期股市AI板块震荡剧烈,英伟达(NVDA.O)CEO黄仁勋在欧洲的访问持续一周后,北京时间10月21日在柏林的GTC演讲成为最受瞩目的部分。外界关注英伟达会推出什么新产品或技术、能否刺激AI基础设施建设继续进行。
答案揭晓:英伟达要用一个叫做DSX POD AI的工厂参考设计,像集装箱一样放到数据中心,不用花费数月时间安装,让数据中心更快开始赚钱。
这是英伟达重点针对欧洲市场的产品,也面向全球其他市场。另一个重要信息黄仁勋并未在演讲中重点提及,但英伟达很快发了新闻稿,宣布扩大供应链产能。
黄仁勋演讲结束后,美股10月21日盘前,英伟达涨超1%。
让计算节点预安装好
英伟达将计算系统的集成度进一步拔高,这次推出的是一款预安装好的参考设计产品。
Vera Rubin DSX POD几乎是在供应链已集成好的系统,含约1000万个零部件,重约2.8万公斤,内部包含长20公里的铜缆、3500根线缆和17公里长的Scale-Out(横向扩展)网络。在交付前,它已完成接线和测试,装进集装箱,可通过公路运输。
黄仁勋说,原来英伟达做NVLink72,把整机架放到供应链里装配,已是在规模化制造超级计算机。但即便如此,当这些机架系统运到站点,现场装配时间长依然可达6个月,通常也要4~5个月。“仅Scale-Out用Spectrum-X接线就长达17公里,这是个疯狂的数字。”他解释,DSX POD交付后则不需要布线,可以一个月左右完成装配,短的话14天。
“这会加快欧洲建设基础设施的速度。”英伟达超大规模与高性能计算副总裁Ian Buck(伊恩·巴克)向第一财经等媒体解释,这款产品按全球部署设计,近期面临的机会点是欧洲等地AI工厂部署。它面向吉瓦级数据中心之外百兆瓦级数据中心的需求,用于快速补上产能。
黄仁勋算了一笔经济账:每吉瓦数据中心的建造成本约500亿美元,预期每年带来数百亿美元收入。假设每年产生400亿美元收入,若因装配晚了三个月,将少100 亿美元收入。加快装配速度可以减少躺在数据中心里的闲置算力,这是对全球供应链和建设数据中心方式的重构。
英伟达还回应了外界关于数据中心用电、用水量大的担忧。
黄仁勋发布了全栈AI工厂参考架构DSX。该架构为封闭式循环液冷,用45度温水冷却GPU,不通过蒸发来冷却。据介绍,在2吉瓦规模下,每天可省下5400万升水,相当于18万户家庭的日用水量。
英伟达还推出新技术以动态分配电力,降低数据中心总用电量。Ian Buck称,在用电尖峰或电网需回收电力时,DSX数据中心可以自动把电让出来,“想象球赛中场休息时,全英国的人同时按下烧水壶,电网瞬间多出1吉瓦负荷。今天可能还要人工管理,电网打电话请求数据中心调配,而DSX Flex技术可以实现自动化。”
“我们必须把数据中心看成电网运营商的合作伙伴,而不是电网耗电大户。”Ian Buck告诉第一财经等媒体,这套机制正在多地生态伙伴、云服务商中落地,这是英伟达扩大AI工厂规模的重要一环。业界也在探索电网与数据中心反向供电,Meta近期提出的方案意在分配、优化用电,与英伟达的思路有相似之处。
黄仁勋此次柏林演讲还回应了另一个备受关注的问题,即AI安全。此前业界关于AI安全的恐慌,一度成为AI板块个股下跌的背景。
“在讲怎么让智能体有用之前,最重要的是必须确保智能体安全。”黄仁勋称。英伟达推出OpenShell安全运行时系统。Anthropic则与英伟达合作,打造Claude模型的OpenShell智能体。
英伟达企业AI副总裁Justin Boitano(贾斯汀·博伊塔诺)向媒体进一步解释,目前大部分关于安全的讨论都集中在AI模型,包括模型对齐和模型护栏,但模型本身无法被训练到理解每家企业、每个政策。智能体系统的安全与治理不能只依赖模型,控制必须贯穿整个智能体栈。将智能体工具执行放在OpenShell沙箱里,可以让智能体只拿到需要的那部分权限。
面向智能体应用,英伟达此次还推出Kumo开源模型和Agent Knowledge Foundation(智能体知识底座)。
扩大供应链产能
黄仁勋演讲时,英伟达发了一份新闻稿,宣布与供应链合作以扩大产能。扩产的消息,意味着在近期股市AI板块震荡的背景下,英伟达仍押注需求扩大。
英伟达宣布,三星电机加入英伟达的基板供应链,计划通过IBIDEN、三星电机和欣兴电子的合作,未来三年推动基板产能提升2.5倍;先进封装方面,英伟达和Amkor计划扩大在韩国的先进封装能力,到2028年底Amkor将把先进封装产能提高300%以上;测试方面,京元电子将在美国建设新厂,英伟达为其提供11亿美元的产能预留预付款,英伟达预计半导体测试总产能到2027年将翻倍。
CPO(光电共封装)产能也在扩大。黄仁勋展示了Spectrum-X,称这是全球首个量产的CPO产品。他现场比划,激光如何穿过光学器件连到芯片上。英伟达称,合作伙伴矽品精密的目标是到2027年中把用于CPO的光引擎产能提高15倍,到2028年底再翻一倍。
扩大产能的同时,黄仁勋还重点谈到物理AI,包括电信基站、自动驾驶和机器人。他预测,未来每一家电信运营商的网络,未来都会演变成一个分布式AI网络。AI将改变做电信的方式,极大提升频谱效率。他还透露,上周英伟达与诺基亚在T-Mobile网络上打通了第一通商用电话,一旦做到这一点,就可以在上面叠加AI。
出货量最大的物理AI应用则是自动驾驶。“每家车企都希望把自己的车纳入出租车车队。今天有Uber、Bolt、Grab等,还会有 Robotaxi(自动驾驶出租车)接入,但不会只来自一个品牌。”黄仁勋称,假设全世界每年出行距离约1万亿英里,按每英里经济价值1到2美元计算,其中相当一部分将会跑在Robotaxi上,这是一个巨大的机会,但极其碎片化。
英伟达的方案是建立行业标准并与生态合作,造一支所有人都能接入的巨型虚拟车队,依托多层的方案和技术。Bolt和Lucid、梅赛德斯-奔驰、大众商用车等厂商已在使用英伟达面向L4级自动驾驶的标准平台Hyperion。