微软称保守假设下，典型AI查询耗水量少于1滴水

IT之家 6 月 16 日消息，微软昨日（6 月 15 日）发布博文，援引《Joule》研究指出， AI 在大规模部署下的能耗与用水量显著低于外界早前估计。

该研究认为在大规模推理场景下，外界对 AI 大语言模型的关注点，不应该只放在单个模型的训练 / 推理规模，更应该注重用户典型调用下的“每次查询”。

该研究指出一次常规典型 AI 调用，耗电 0.16 至 0.60 瓦时（watt-hours），约等于一台 40 瓦电脑运行 15 至 60 秒，或 1000 瓦微波炉工作 0.6 至 2 秒。相比此前文献和媒体报道，新研究的数据低至 1/4 到 1/20。

水资源方面，保守估计下，典型查询的冷却用水为 0.0 至 0.067 毫升，中位数约相当于 1/100 茶匙，甚至少于 1 滴。微软还提到，随着零用水数据中心设计推广，这一数字还有继续下降的空间。IT之家附上相关截图如下：

微软指出规模越大，单位查询效率通常越高。大系统可同时处理更多请求，并在模型、调度、硬件多个层面叠加优化。就像大型航空公司更容易通过统一调度节省燃料，云平台也能把效率改进扩散到每一次推理。

在 10 亿次日查询场景下，基础耗电约 0.7 吉瓦时；若加入效率优化，可降至约 0.3 吉瓦时。即使 10% 请求属于代码生成、多步推理等长任务，整体能耗仍可比基线下降一半以上。

新浪科技公众号

“掌”握科技鲜闻 （微信搜索techsina或扫描左侧二维码关注）

陌陌母公司挚文季报图解：营收24亿净利降19% 唐岩刚获派息超8000万

风口上的AI短剧人，如履薄冰

“不好看就退票”服务，能救电影院吗？

苹果回应iPhone删几千张照片“内存”没变：会在最近删除保留30天

快手前副总裁王志强入职盒马：手握创新项目向CEO严筱磊汇报

华为方向对了！首创阔折叠形态：苹果三星等主流品牌集体抄作业

笔记本电脑的寿命到底多长：答案揭晓

AMD 收购 MEXT，为 AI 负载吃内存寻找降本新路径

不用EUV照样量产！长鑫存储LPDDR5X杀入华为旗舰机：制程跃升至1z先进节点

奶不如水贵？现代牧业“过冬”：两年累亏25亿 3年换2任董事长

大疆Pocket 4P体验：口袋里的双摄电影机

华为首款商用鸿蒙台式机亮相：9月发布！

小米空调四项技术获评国际领先 卢伟冰：真刀真枪的底层技术突破

前国足球员：别再降薪了！再降薪就没人踢球了

前国足球员称再降薪中国就没人踢球了引热议：网友吐槽薪水500万不也没进世界杯

比亚迪纯电重卡被称矿山永动机 网友：一辈子只充一次电

全球量产动力最强插混越野车 吉利银河战舰700零速直拔尼三锅

售价25.98万元起，鸿蒙智行问界M6上市54天交付超3万台

鸿蒙桌面OS拿下唯一II级认证！华为朱懂东：如果是安卓套壳拿不到证书

李想：很多人从冰箱、彩电、大沙发认识理想 但今天请记住这张图

长安汽车发布“天枢领航”自研辅助驾驶系统：长安启源 Q06 将全系搭载、9 月上市

贾跃亭：FF将一口气发布4款机器人

近视防控镜到底有多暴利：卖3280元的眼镜进货价仅126元 用久还会加深近视

主题：微软