登录

“我们的GPU又不够用了”!AI没有算好的事


速读:对于普通用户而言,原本隐藏在模型背后的算力供需关系,由此变得具体可感。 “公司当前机房已经满载80%,算力达8000P左右”,李凯萌告诉《锋面》记者,目前正在新建机房以满足持续增长的算力需求。 李凯萌是内蒙古中科超算科技公司副总经理,负责推进AI智算项目。
“我们的GPU又不够用了”!AI没有算好的事 _ 东方财富网

“我们的GPU又不够用了”!AI没有算好的事

2026年07月27日 14:13

来源:

央视网

  “每天都在不停地接待来调研的客户,兼顾三期工程的落地。”在呼和浩特和林格尔新区,已经是中午12点半了,李凯萌还在向客户介绍情况。比起用“忙”来形容当前的状态,他更愿意说是“行业正处在上升期”。

  李凯萌是内蒙古中科超算科技公司副总经理,负责推进AI智算项目。“公司当前机房已经满载80%,算力达8000P左右”,李凯萌告诉《锋面》记者,目前正在新建机房以满足持续增长的算力需求。

  建机房、买芯片、保供电,构成了算力扩容必须跨过的三道门槛。

  “我们的GPU又不够用了。”随着 AI应用 迅速渗透,这句感叹正在行业内被频繁提起。

   算法越强,算力越缺

  7月19日,Kimi K3上线后48小时,月之暗面因用户请求量超出预期、现有算力接近集群承载上限,宣布暂停面向新用户开放会员订阅。对于普通用户而言,原本隐藏在模型背后的算力供需关系,由此变得具体可感。有用户称:使用AI不仅要付费,会员资格也开始像演唱会门票一样需要“抢”。

  而Kimi K3恰恰是一款强调效率提升的模型。就在上个月,月之暗面发布信息称,其架构创新带来了约2.5倍的模型扩展效率提升。

  但模型运行效率提高后,为何算力仍然告急?

  事实上,这是由于算力的边际成本具有刚性约束,用户的每一次提问、模型的每一次生成以及智能体的每一次工具调用,背后都对应着真实的芯片占用、存储访问、网络传输和 电力 消耗。

  效率提升降低了智能服务的使用门槛,却也可能释放更多需求。模型调用成本下降、能力增强后,用户不仅会更频繁地使用AI,也会让模型承担更复杂的任务:从一次简单问答,发展到长文本处理、代码生成、多智能体协作,以及数十次甚至上百次工具调用和结果校验。

  清华大学新闻学院教授沈阳团队分析认为,这一现象是AI时代的“杰文斯悖论”:一种资源的利用效率提高、单位使用成本下降后,其总体消耗量未必减少,反而可能随着应用范围扩大而增加。

  也就是说,单次推理所需的平均成本可以下降,但当用户规模、调用频率和单次任务复杂度同时上升时,总体算力消耗仍继续增长。

  Kimi暂停新增会员,并不意味着技术提效失效,而是说明效率释放出的新增需求,短时间内超过了现有基础设施的承载能力。

  沈阳团队指出,Kimi K3的“算力熔断”只是开端,未来每一代效率更强的大模型,都可能会重复上演这套扩张逻辑。

  算力进入卖方市场?

  随着大模型从集中训练走向规模化应用,行业对算力的需求也在发生变化。训练算力主要用于模型研发阶段,推理算力则服务于模型上线后的日常调用。用户每向豆包、DeepSeek、Kimi等 AI应用 提出一个问题或任务,模型都需要实时完成计算并返回结果。

  这一转变也改变了李凯萌所在公司的业务结构。2024年以前,公司业务以超算为主,主要服务科研院所、 半导体 研究机构等客户;此后,公司开始全面转向智算,为大模型企业提供训练算力。

  “现在,推理算力占了我们业务的90%,训练只剩10%。”李凯萌说,2025年初以后,市场节奏明显发生变化。伴随 AI应用 集中涌现,推理算力逐渐变成高频需求。

  需求快速增长,开始传导至算力 租赁 价格。一位业内人士告诉记者,今年以来,部分算力设备的 租赁 价格涨幅超过30%。以其接触的一类主流GPU设备为例,月租金已从去年的8000元至9000元,上涨至约1.2万元。“现在基本是实时定价,每周价格都可能发生变化。”

  涨价的不只是GPU整机。受访者称,CPU、内存等服务器部件的价格也出现明显上涨,部分设备的交付周期则从过去的现货供应延长至四周左右。

  “去年有些设备下单后很快就能拿到,现在通常要等一个月左右。”该受访者表示,在需求集中释放时,芯片产能、服务器组装及供应链备货能力都可能成为限制因素。

  机房同样告急。“现有机房已经装不下更多机器了。”李凯萌告诉记者,公司三期机房即将完工,预计下半年新增3000P至4000P算力。

  需求的变化,也在改变算力企业与模型公司的合作模式。据业内人士介绍,目前双方常采用“整包制”。例如,一批100台服务器接入模型公司的网络后,无论客户某一天实际调用10台还是100台,均按整批容量结算。

  “这相当于客户包下了我们的产能,我们不承担闲置风险,但客户必须提前锁定资源。”受访者解释道。

  基建竞速

  模型新能力会在发布之时集中呈现,但承载这些能力的算力基础设施,却需要更长时间的建设。

  “算力扩容涉及芯片制造、服务器组装和机房建设一整套链条。就算模型公司想立刻增加机器,硬件产能和施工周期也是绕不开的现实门槛。”一位业内人士指出,算力并不是可以即时生成的虚拟资源,而是一套重资产、长周期的实体基础设施。

  在需求驱动下, 数据中心 建设正在加速。相比上述提到的部分设备约一个月的交付周期,机房从设计、建设到验收投用,所需时间通常更长。

  在乌兰察布察哈尔高新区的中金数据零碳算力基地,工作人员告诉记者,园区采用“先锁定客户、再定制建设”的模式,客户通常以整栋或整层机房为单位提出定制需求。目前,园区采用预制模块化方案,包括成套温控设备可在工厂完成预组装,再运抵现场进行快速接驳,这样单个机房模块最快可在90天交付。

  但机房建得更快,并不意味着算力可以只向少数大型园区集中。与训练任务相比,推理服务通常对响应速度更敏感。用户与算力节点之间距离越远,网络传输带来的时延越明显。因此,推理算力不仅需要规模,也需要更广泛的区域覆盖。

  “未来算力竞争,不只看总规模,还要看离用户有多近。” 中国移动 呼和浩特 数据中心 政企业务支撑孟繁跃表示,公司计划在北京、广州、长沙等地部署边缘推理节点,使AI用户能够就近连接算力服务,降低访问时延。

  而当芯片、机房陆续就位,另一项更基础的资源开始显现出约束力—— 电力 。

  “AI的尽头是算力,算力的尽头是 电力 。”对大型智算中心而言,电力不仅要“够用”,还必须满足全天候稳定运行、冗余保障、成本可控和绿色低碳等多重要求。

  国家能源局数据显示,2025年,全国已建成42个万卡级智算集群,算力中心总用电量达到1700亿千瓦时,占全社会用电量的1.6%。全国一体化算力网络八大枢纽节点近三年的算力用电量平均增速约为39.5%。伴随超大规模智算集群持续建设,算力负荷呈现出增速快、密度高、布局集中和运行复杂等特点。

  相比芯片采购和模块化机房建设,电力基础设施的调整更难一蹴而就。多位受访业内人士表示, 数据中心 周边的变电站和配电设施可以根据项目需求扩建,但如果当地可用电力容量不足,进一步提升供给能力还可能涉及新增电源、输电通道和主网架改造,需要更长的建设和协调周期。

  从全国布局来看,在西部地区,算力基础设施开始更多地与 新能源 基地、电网和储能系统协同规划;在东部地区,分布式算力节点建设则需要兼顾就近响应、供电保障和网络时延。

  模型可以一夜升级,基础设施却无法一夜建成。算力产业的扩张速度,最终仍受芯片供给、机房建设、电力容量和网络布局等条件共同制约。效率提升能够降低一次计算的成本,却无法替代基础设施本身。面对不断增长的智能需求,算力扩容没有捷径。

(文章来源:央视网)

主题:基金|新股|GPU又|美股