DeepSeek 开源内部推理框架 DeepInfer:Apache 2.0 许可,承载 V4.1-Flash 生产部署
2026-10-20,DeepSeek 官方账号在 X 发布 DeepInfer 开源公告,称这是其内部用于驱动 DeepSeek-V4.1-Flash 的推理框架,首次完整开放源代码,许可证为 Apache 2.0 DeepSeek 公告。
DeepInfer 包含高性能内核、推理引擎、分布式推理与投机解码、SWA Bounded Replay 与结构化输出;DeepSeek 同时开源 deepseek-recipe,这是其生产环境的 token 编解码组件,与官方 API 处理逻辑对齐,便于社区部署复刻官方 API 行为。DeepSeek 表示未来模型的推理代码与持续优化将在同一仓库发布 DeepInfer 组件。
Shawn Wang(Latent Space 创始人)转引 DeepSeek 知乎文章中的更多细节:基于该框架的 DeepSeek V4.1 Flash 推理服务单集群吞吐达 155 万亿 token/日,并自述在非峰值价格下单卡每小时营收约 38 美元 知乎信息。





