DeepInfer 信息来源：官方文档与 V4.1-Flash 参考资料

这份关于 DeepInfer——DeepSeek 的 V4.1-Flash 推理框架——的档案中，每条事实主张都对应一个公开来源。我们把它分成四层：A 官方一手来源，B 无法独立验证的官方说法，C 具名二手报道，D 每小时都可能变化的社区观察。一个数字的分量，取决于它所在的层。

A. 官方一手来源

• DeepInfer 仓库——README、许可证、特性列表、硬件、构建要求、性能图表。访问于 2026-10-20。
• DeepInfer 部署 Q&A——生产架构、Wide-EP、EPLB、KV cache、DSpark、调度、Recipe。更新于 2026-10-20 11:03 UTC。
• 示例 README——离线推理、基准测试、扫描参数，以及 CP/EP 参数。
• 评测 README——AIME 2026、GPQA Diamond、HLE 的参考分数与流程。
• deepseek-recipe——协议转换、tokenizer、流式解析器，MIT 许可。
• DeepSeek-V4.1-Flash-1017 模型卡——默认 checkpoint、MIT 权重、上下文窗口、基准表。
• DeepSeek-V4.1-Flash 技术报告——552B 主干 + 196B Engram、8B/16B 激活、890 字节/token KV、45T 训练 token。
• DeepSeek 知乎文章：V4.1 Flash 大规模推理部署——中文的生产架构说明，涵盖 3FS、EPLB、DSpark、调度。
• DeepGEMM-Ascend 与 DeepEP-Ascend——Ascend 侧的前期工作，2026-09-30；性能数字由厂商自行测试，并带有 PoC 硬件的限定说明。
• 《开源 DeepSeek 推理引擎之路》——2025 年 4 月对当时为何不发布完整引擎的解释。
• DeepSpec——MIT 许可的训练与评估代码库，面向投机解码的 draft 模型（DSpark、DFlash、Eagle3）。

B. 我们无法独立验证的官方说法

这些是 DeepSeek 自报的生产数字。我们引用时会写明“DeepSeek 称”，不把它们当作基准测试结果。

• 单集群每天 155 万亿 token；低谷电价下每 GPU 小时 38 美元收入。来自官方 Q&A 和知乎文章。集群规模、GPU 构成和统计窗口均未披露。收入不是利润。
• 负载均衡达到理想均衡离线基准的约 80%。来自官方 Q&A。
• DSpark 变长验证：生产工作点提升 4–7%，每 rank 96 个并发序列时最高提升 11%。来自 Q&A 表格。
• 开源版 FlashMLA 的 decode 算子慢 5–10%，端到端最多慢 5%。这是 DeepSeek 与内部版本的对比。
• 3FS KV cache：约 100 PiB，agent 流量 3 天 TTL、chatbot 流量 7 天 TTL，每 GPU 约 14.4 TB 逻辑 KV，每 8 块 GPU 约 400 Gbps。属于生产设计，不在发布内容中。

C. 二手报道

• CryptoBriefing，2026-10-20 09:35 UTC——发布报道。它额外提到 96% 缓存命中、约 400 ms TTFT、230 tokens/s（编码场景 300）。这些数字不在官方 README/Q&A 文本中，我们将其视为二手且未经核实。
• Pasquale Pillitteri，2026-10-20 10:54 UTC——详细的独立分析，含图表读数与缺失组件清单。
• IT之家，2026-10-20 与 第一财经，2026-10-20——中文的官方声明报道。
• Blockchain.News、TechFlow、KuCoin——简短的发布快讯，内容基本是转述 X 上的推文串。
• vLLM 博客，2026-10-07——另一条 V4.1-Flash 优化路径；不是与 DeepInfer 的对比。
• SGLang 博客——另一条 V4.1-Flash 算子路径；不是与 DeepInfer 的对比。

D. 社区观察

• Hacker News 讨论，2026-10-20——两小时内约 120 条评论。最常被提出的技术质疑是缺失的 KV cache。社区对单位经济性的估算属于推测，我们不会把它们当作事实转述。
• DeepSeek 官方 X 推文串——四条，2026-10-20 09:30 UTC。
• LightSeek Foundation——表示 TokenSpeed 将学习并采纳这些优化。
• PR #47（SM90/H20 RFC） 与 PR #46（Ascend 910C RFC）——公开提案，尚未合并为支持。

对比来源

• vLLM README——PagedAttention、连续批处理、prefix caching、OpenAI 兼容 API、模型与硬件覆盖。
• SGLang V4.1-Flash cookbook——preview 镜像、DSpark、PD 分离、HiCache、router 与硬件。
• SGLang day-0 文章——V4.1-Flash 的特性与硬件覆盖。
• TensorRT-LLM README——算子、运行时、prefill-decode 分离、Wide EP、Triton/Dynamo、许可证。
• TensorRT-LLM 支持矩阵——做决定前先确认模型与 GPU 支持。
• LMDeploy README——TurboMind/PyTorch 引擎、DeepSeek V3/R1 相关工作、PD 分离、Ascend、OpenAI API。
• TGI README——维护模式说明、特性、硬件、许可证。
• TGI Messages API——OpenAI Chat Completion 兼容性。
• Xinference README——多模型平台、OpenAI API、分布式 worker、后端。
• NVIDIA Dynamo README——编排层、分离式服务、KV 感知路由、KVBM、后端。
• llama.cpp README——GGUF、后端、量化、本地服务器、许可证。
• Ollama README 与 OpenAI 兼容性——本地运行器与 API 接口。
• MLC-LLM README——编译器/MLCEngine、平台、API、许可证。

名称辨析来源

• 医学版 DeepInfer 的 GitHub 组织（创建于 2016 年）与 Slicer-DeepInfer。
• “DeepInfer: open-source deep learning deployment toolkit for image-guided therapy”，SPIE Medical Imaging 2017。
• “DeepInfer: Deep Type Inference from Smart Contract Bytecode”，ESEC/FSE 2023；代码。
• DeepInfra——商业推理服务商；拼写不同，主体不同。

我们读不到的内容

中文知乎文章中有一张“线上系统实际统计”的图片。我们的环境无法加载图床（SSL 错误），文本镜像也只返回了文章正文。因此，归因于那张监控面板的 96% 缓存命中、约 400 ms TTFT 和 230 tok/s 仍然属于二手信息。我们不会把它们放进标题、规格条或基准表。

我们同样没有 SM100 或 Ascend 950 硬件，因此没有运行代码、复现图表，也没有测量 Ascend 性能。本站所有性能陈述都是对来源的解读，不是实测结果。

如何引用本站

如果你要引用某条事实主张，请引用页面上链接的一手来源，而不是这份档案。如果你要引用我们的分析或名称辨析表，请链接到具体页面并注明访问日期：

DeepInfer Field Notes，《你说的哪个 DeepInfer？名称冲突的澄清》，访问于 2026 年 10 月 20 日，https://deepinfer.net/name/。

返回关于，或者阅读限制说明。