DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，目标实现大模型普惠
- 1DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，并同步开源 deepseek-recipe 编解码组件
- 2官方称推理框架统筹算力调度，其效率直接决定 AI 服务的算力成本与电力消耗，目标是大模型普惠
- 3DeepInfer 支持分布式推理、推测解码、SWA Bounded Replay、结构化输出，兼容英伟达与华为昇腾平台
- 4官方称已基于 DeepInfer 实现 DeepSeek V4.1 Flash 高吞吐低延迟的大规模推理服务
DeepSeek 的开源从模型延伸到决定服务成本的推理框架层，实质是把官方生产级部署经验开放给企业自建部署使用。
- 影响：自建推理服务的企业可参考官方生产级经验优化吞吐与延迟，压降算力与电力成本；兼容英伟达与华为昇腾，走国产算力路线多一个现成选择；官方称新模型推理代码将在此持续更新。
- 参考：可考虑用自身业务负载实测 DeepInfer 的吞吐与延迟，估算私有化部署的成本空间；值得对照 deepseek-recipe 核查自家 API 编解码逻辑差异；选型国产算力的团队可把昇腾兼容纳入验证清单。
- 依据：开源事实、框架能力与兼容平台均来自 DeepSeek 官方公告，属官方口径，暂无独立验证；V4.1 Flash 的推理效果为官方自述。
IT之家 10 月 20 日消息，DeepSeek 今日官宣，在此前开源一系列大模型、TileLang 编译工具及推理算子库的基础上，决定进一步将内部推理框架 DeepInfer 全面开源。
DeepSeek 官方表示，大模型的能力边界由模型本身划定，但如何以合理成本提供超大规模的模型服务，还取决于一个长期未被公众了解的中间层：推理框架。
训练使模型学有所成，推理则让模型为人所用。面对如今海量的用户调用，推理框架负责统筹调度庞大的算力集群，其效率直接决定了 AI 服务的算力成本与电力消耗。
DeepSeek 希望通过分享内部的部署经验，帮助开发者与企业组织优化大规模推理的吞吐与延迟，从而高效构建私有化及公有云部署，降低算力成本、减少能源消耗，让智能以更低的价格触达更广泛的人群，实现真正的大模型普惠。
基于 DeepInfer，DeepSeek 官方已实现 DeepSeek V4.1 Flash 高吞吐、低延迟的大规模推理服务。未来，DeepSeek 新模型的推理代码及后续优化也将在此持续更新。
DeepInfer 推理框架：集成高性能算子与深度优化的推理引擎，支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力，兼容英伟达与华为昇腾平台。
deepseek-recipe 编解码组件：同步开源的生产级 Token 编解码组件，与 DeepSeek 官方 API 处理逻辑完整对齐，确保社区获得与官方部署一致的 API 体验。
IT之家附开源地址如下：
DeepInfer：https://github.com/deepseek-ai/DeepInfer
deepseek-recipe：https://github.com/deepseek-ai/deepseek-recipe
广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家包含外链的文章均包含本声明。
来源：IT之家·人工智能 · ithome.com