只需换个软件:Intel锐炫B 580跑AI实测快了3倍!

快科技10月27日消息 , Intel锐炫B580 12GB显卡在运行1250亿参数AI模型时,使用开源推理引擎XeStrata达到每秒31.1 tokens,相比原版Strata的10.9 tokens/s快近3倍,且未更换硬件。
PC Watch测试用的是华擎B580 挑战者12GB OC显卡,搭配酷睿Ultra 5 250KF Plus处理器和64GB DDR5内存,系统为Ubuntu 26.04 LTS。模型为Qwen3.8-Flash-Next,采用IQ3_S量化、64K上下文和8位KV缓存。
12GB显存自然装不下整个125B模型,Strata和XeStrata都支持同时调用GPU和系统内存,本次量化配置需要约50GB系统内存,也就是64GB内存是能跑通的前提。
XeStrata是Strata的衍生分支,针对支持的GPU架构做了额外优化,包括用Intel GPU的XMX矩阵硬件跑部分运算。 测试使用Strata 0.2.1和XeStrata 0.1.43-2 Ubuntu包,同一模型同一配置下对比。
不过速度差异中多少来自哪项优化无法逐一确认,结果只是同一电脑上两套软件配置的对比,不能说明某项技术贡献了全部提升。测试也仅涉及文本生成吞吐量,不代表提示词处理、响应延迟或模型精度也有同等提升。
31.1 tokens/s的速度虽然可观,但运行大模型依然吃力,PC Watch认为B580扛不住更重的智能体类工作负载,这类场景需要更强GPU、更多显存和更长上下文窗口。
同一硬件上换一套推理引擎,生成速度差了一大截,对于本地跑大语言模型的用户,软件选择和显存、系统内存一样重要。
【本文结束】如需转载请务必注明出处:
“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)
大厂醒悟了,卷模型不如卖芯片 A社“AI末日”资本黑手被揪出,炒作焦虑为IPO圈钱!难怪仇视DeepSeek开源 中银基金换帅:风控“守门”,难破“偏科”
苹果回应iPhone Duo内屏开裂:大多数设备不受影响 用户可联系AppleCare换机 三星贴脸开大!最新广告片嘲讽苹果iPhone Duo:火药味十足 美国大模型第一股Anthropic交表:两年半收入规模扩大400倍,与亚马逊、谷歌等云厂商“亦敌亦友” iPhone Duo内屏开裂引热议!富士康员工:因产能吃紧苹果曾降低过一定良率质检标准 苹果出手整治摇一摇跳转广告!iOS 27.2可禁止运动传感器权限:国行专属 自曝财产被冻结!百合网创始人慕岩在朋友圈化缘要饭:日入超5000元 蒙牛、东鹏饮料、妙可蓝多等终止与姆巴佩的全部合作 首款华为星芒手机11月登场:主攻性价比 压力给到友商 消息称明年国产 TOP5 厂商都会上阔直板新机,目前全部立项完成 发工资用数字人民币!多所高校收到通知:11月正式执行
主题:测试