内存价格是降不下来了谷歌AI芯片直接上2 PB HBM:成功打破内存墙
快科技4月26日消息,内存价格这一年来涨了3-5倍,已经严重影响了大家对PC和手机的消费意愿,而导致这次内存大涨价的元凶就是AI需求太猛。
大家都知道AI对内存(GPU上算显存)的容量及带宽要求都很高,但具体能高到什么程度?谷歌前几天发布的第八代TPU就是最好的例子。
今年的TPU v8首次针对训练及推理做了区分,V8T偏重AI训练,虽然谷歌说也可以做推理,但主要还是训练用的, 每个Pod节点堆了9600个V8T芯片,FP4性能达到了121EFlops ,内存带宽19.2TB/s,芯片内部带宽400GB/s,几乎都是2-4倍的变化。
V8i主要面向AI推理负载,规格上要降不少,每个节点只有1152个V8i芯片,算力降低到了11.6EFlops,内存带宽19.2TB/s没变。
值得注意的是,内存容量这次猛增了不少, V8i也达到331.8TB HBM内存,V8T更是夸张到了2PB HBM内存,每个V8T芯片配备了216GB HBM内存。
谷歌这次的设计理念是为了打破AI瓶颈的内存墙,2PB HBM不止是总容量超大那么简单,是在一个节点内作为单一全局地址使用,而NVIDIA的GPU此前虽然也能通过NVLink等技术堆出PB级的HBM内存,但连接也绕不过传统的数据中心网络,这会有性能及延迟瓶颈问题。
RobustCloud首席顾问Larry Carvalho表示,打破“内存墙”标志着谷歌在AI芯片领域的潜在重大竞争转变。
但是对普通人来说,谷歌这次上2PB HBM内存可不是什么好现象,因为这意味着AI对内存的需求还在涨, 要知道HBM内存通常要比常规的DDR内存多消耗2-4倍的DRAM芯片产能, HBM用量越多,挤占的DDR内存产能就越多。
即便需求高涨,三星、SK海力士、美光等公司也会优先保证HBM需求,但他们此前明确了不会大幅提升芯片产能,显然内存芯片的紧缺状态还会更严重,价格是别指望快速降回来了。
【本文结束】如需转载请务必注明出处:
内存 谷歌 HBM内存



新浪科技公众号
“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

“不好看就退票”服务,能救电影院吗?
微信封禁自家“兄弟”红包,打的什么牌?
华住,比携程还会捞金?
中国AI应用春季报告|大厂外力量回升,行业加速分层
国产AI人类之光 DeepSeek V4发布一天价格暴降75%:性价比拉满
科学家为磁性分类建立统一对称性框架
东方甄选四大主播集中离职!俞敏洪回应
海信大薄荷509 E5S冰箱亮相 陈靖可解锁世界杯看球新搭档
2026年超长期特别国债发行启动
时隔近六个月 英伟达市值再次突破5万亿美元大关
小米VGT国内首秀!雷军现场掀开车布
碳移除市场崛起:技术路径、资本结构与需求重构
为何在德国建立欧洲研发中心?小米汽车:这里有人有场地
尚界汽车法务部:北京车展有人蓄意破坏展车内饰 已取证将追责
余承东重磅发言:传统铝合金一体化压铸早就落伍了
花呗白条月付等面临重大变动 官方明确禁止支付与借贷捆绑乱象
7岁女孩天生白色刘海:确认罕见病
下载轻松5000Mbps以上!6G跟5G最大的区别是啥 你知道吗:亲测网速不只多了1G
前微软 CEO 鲍尔默 6000 万美元投资血本无归,痛斥欺诈创始人“我被骗了”
日本“折纸”卫星成功升空,在轨展开后尺寸增至 25 倍
三电机超1000马力、零百2秒内!腾势Z软顶敞篷超跑官图发布
普通人什么时候能用上6G:2030年前后 流量费可能比5G更低
华为896线激光雷达智驾上车 全新一代红旗H9官图发布
主题: