清程极智:AI Ping已接入30+主流服务商、600+大模型服务
2026年06月05日 11:26
新浪科技讯 6月5日上午消息,在中科创星硬科技媒体行——清程极智专场活动中,清程极智团队在分享中透露,面对Token服务市场服务商林立、指标混乱、选型成本高的行业乱象,清程极智推出的AI Ping一站式大模型服务评测与API智能路由平台——已接入30余家主流服务商、600余个大模型服务,可依托智能路由算法,以统一API接口为用户自动匹配最优服务商,实现成本降低超37%、吞吐提升超90%、延迟降低超20%。
此外,针对大模型部署成本高、国产算力适配不足等痛点,清程极智推出的赤兔推理引擎已在券商、能源央企等场景落地应用,某能源央企实现3500+员工全国产化算力稳定使用,算力效率提升近40%。
2024年初至2026年3月,中国Token日均调用量激增约1400倍,规模突破140万亿。但在 Token 需求爆发的同时,国产算力与国产模型推理环节长期依赖海外引擎,难以充分释放国产硬件性能。
据悉,清程极智赤兔推理引擎针对升腾、海光、沐曦、 摩尔线程 等国产芯片的硬件特性深度优化,有效解决了国产算力“能用不好用”的难题,基于该引擎部署DeepSeek‑V3满血版模型时,仅需1台8卡910B服务器即可替代传统4台8卡机,硬件成本从600万元降至150万元。(文猛)