登录

开源


分类

推理框架

官方表示,开源推理框架的目的一在于帮助开发者与企业组织优化大规模推理的吞吐与延迟,高效构建私有化与公有云部署,从而降低算力成本、减少能源消耗,让智能以更低价格触达更广泛人群,并将继续支持社区进行大规模部署优化。
文章

DeepSeek开源推理框架DeepInfer:
文章

deepseek-recipe

配套同步开源的deepseek-recipe是生产级Token编解码组件,与DeepSeek官方API的处理逻辑完整对齐,确保社区获得与官方部署一致的API体验,两部分代码均已在GitHub开放,DeepSeek另在知乎发布了完整技术报告。
文章

效果

模型、算子库与推理框架的逐层开放,延续了国产大模型以开源生态降低推理门槛、推动智能普惠的行业路径。
文章