英伟达刷新DeepSeek V 4推理纪录：单Token成本降至1/5，AI吞吐量最高提升20倍

IT之家 7 月 1 日消息，英伟达昨日（6 月 30 日）发布博文，宣布在英伟达 Blackwell 平台上，通过优化全栈推理，相比较 DeepSeek V4 模型 1 个月前上线初期， 单 Token 成本最多降至五分之一。

IT之家注：单 Token 成本（Cost Per Token）指模型生成或处理单个 token 的成本指标，常用于比较不同硬件、软件栈或部署方式的推理成本表现。

英伟达在博文中表示已将单 Token 成本列为 AI 总拥有成本的核心指标，并表示针对 DeepSeek v4 模型，Blackwell 平台已将其降低至行业最低水平。

在技术实现方面，英伟达通过生产运营层、应用加速层、基础设施访问层 3 层来优化推理：

性能方面，英伟达通过分离式服务、大规模专家并行、基于 NVIDIA NVLink 的并行通信、NVFP4 精度以及多 token 预测等技术，叠加优化后，Blackwell 平台单 GPU 的 token 吞吐量最高可提升 20 倍。

新浪科技公众号

“掌”握科技鲜闻 （微信搜索techsina或扫描左侧二维码关注）

OpenAI抢后台，马斯克抢前台

陌陌母公司挚文季报图解：营收24亿净利降19% 唐岩刚获派息超8000万

风口上的AI短剧人，如履薄冰

史上最严标准！电动汽车新国标今起实施：首次引入物理一键断电

“比那个‘大米汽车’强太多，那是杂粮品牌”，某品牌汽车销售公司造谣小米，被罚40万元！

iPhone 18 Pro爆料满天飞 苹果严厉追责：泄密内容被批量下架

入学先查父母职务与车价，学校“摸家底”越界了 | 新京报快评

系列最强智能体 AI 模型：Claude Sonnet 5 登场，部分性能逼近 Opus 4.8

亚洲空调军团 在欧洲集体爆单

让国外网友“破防”系列：欧洲多地出现创纪录高温，中国猪圈装空调视频海外爆火

9月巅峰对决！华为Mate 90系列迎战iPhone 18 Pro

REDMI K90 至尊版上手：风扇一转 拼瞬时更拼持久

2026 年 6 月汽车销量 / 交付汇总：小米汽车再超 3 万台（持续更新）

华为余承东：特斯拉追求接近人，我们追求超越人

岚图汽车董事长卢放批评“浮夸营销”：动不动就“地球上最好”，广告法为什么对这几个人没效呢

史上最严标准！电动汽车新国标今起实施：首次引入物理一键断电

罗永浩力挺韩红：我也不喜欢走个面儿 但说她的公益基金有问题 太流氓

以后夏天再也不用怕热了！中国科学家把“空调”织进了布料

17年每辆油车至少缴费2万+！养路费谁来交 油电车主大吵：专家释疑

历史性里程碑！寒武纪成科创板首只万亿股：从200亿到一万亿仅11个月

智己 LS9 Hyper 上市定档 7 月 16 日，全线控四轮转向系统上车

全新问界M9现身美国街头：白人老钱要出30万美金当场买下

9月巅峰对决！华为Mate 90系列迎战iPhone 18 Pro

主题：英伟达|AI吞吐量最高提升20倍