DeepSeek开源推理框架DeepInfer:推理成本成为AI普惠的关键一层
DeepSeek10月20日宣布全面开源内部推理框架 DeepInfer，这是继此前开源系列大模型、TileLang 编译工具与推理算子库之后的又一次开放。官方指出，大模型的能力边界由模型本身划定，但如何以合理成本提供超大规模模型服务，还取决于推理框架这一中间层——它统筹调度庞大的算力集群，其效率直接决定 AI 服务的算力成本与电力消耗。
DeepInfer 集成高性能算子与深度优化的推理引擎，支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力，同时兼容英伟达与华为升腾平台。基于该框架，DeepSeek 已实现 DeepSeek V4.1Flash 的高吞吐、低延迟大规模推理服务，未来新模型的推理代码及后续优化也将持续在此更新。
配套同步开源的 deepseek-recipe 是生产级 Token 编解码组件，与 DeepSeek 官方 API 的处理逻辑完整对齐，确保社区获得与官方部署一致的 API 体验，两部分代码均已在 GitHub 开放，DeepSeek 另在知乎发布了完整技术报告。
官方表示，开源推理框架的目的一在于帮助开发者与企业组织优化大规模推理的吞吐与延迟，高效构建私有化与公有云部署，从而降低算力成本、减少能源消耗，让智能以更低价格触达更广泛人群，并将继续支持社区进行大规模部署优化。模型、算子库与推理框架的逐层开放，延续了国产大模型以开源生态降低推理门槛、推动智能普惠的行业路径。 开源仓库
DeepInfer: https://github.com/deepseek-ai/DeepInfer
deepseek-recipe: https://github.com/
deepseek-ai/deepseek-recipe