DeepInferの出典: 公式ドキュメントとV4.1-Flashの参考文献
DeepInfer——DeepSeekのV4.1-Flash推論フレームワーク——についての本資料の事実的主張は、すべて公開資料に紐づいている。本ページは公開の台帳であり、何を、いつ読み、各層をどこまで信頼しているかを示す。
DeepInfer——DeepSeekのV4.1-Flash推論フレームワーク——についての本資料の事実的主張は、すべて公開資料に紐づいている。層は4つに分ける。A公式の一次資料、B独立に検証できない公式の主張、C名前の明示された二次報道、D時間単位で変わるコミュニティの観測だ。数字の強さは、その層の強さを超えない。
A. 公式の一次資料
- DeepInferリポジトリ — README、ライセンス、機能一覧、ハードウェア、ビルド要件、性能チャート。アクセス 2026-10-20。
- DeepInferデプロイQ&A — 本番アーキテクチャ、Wide-EP、EPLB、KV cache、DSpark、スケジューリング、Recipe。更新 2026-10-20 11:03 UTC。
- examplesのREADME — オフライン推論、ベンチマーク、スイープのパラメータ、CP/EPフラグ。
- 評価用README — AIME 2026、GPQA Diamond、HLEの参照スコアと手順。
- deepseek-recipe — プロトコル変換、トークナイザ、ストリーミングパーサ、MITライセンス。
- DeepSeek-V4.1-Flash-1017モデルカード — デフォルトのチェックポイント、MITの重み、コンテキストウィンドウ、ベンチマーク表。
- DeepSeek-V4.1-Flash技術レポート — 552Bのバックボーン + 196BのEngram、8B/16Bの活性化、KV 890バイト/トークン、学習トークン45T。
- DeepSeekのZhihu記事: V4.1 Flashの大規模推論デプロイ — 中国語による本番アーキテクチャの解説。3FS、EPLB、DSpark、スケジューリング。
- DeepGEMM-AscendとDeepEP-Ascend — Ascend向けの地ならし、2026-09-30。性能値はベンダーによる測定で、PoCハードウェアという注意が付く。
- The Path to Open-Sourcing the DeepSeek Inference Engine — 2025年4月、当時エンジン全体を公開しなかった理由の説明。
- DeepSpec — 投機的デコードのdraftモデル(DSpark、DFlash、Eagle3)を学習・評価するMITライセンスのコードベース。
B. 独立に検証できなかった公式の主張
これらはDeepSeek自身の本番環境の数字だ。「DeepSeekは…と述べている」と引用し、ベンチマークの結果としては扱わない。
- クラスタあたり1日155兆トークン、オフピーク価格でGPU時間あたり38米ドルの収益。 公式Q&AとZhihu記事による。クラスタ規模、GPU構成、測定期間は開示されていない。収益は利益ではない。
- ロードバランシングは完全に均衡したオフラインベンチマークのおよそ80%に達する。 公式Q&Aによる。
- DSparkの可変長検証: 本番動作点で+4〜7%、1ランクあたり96並列シーケンスでは最大+11%。 Q&Aの表による。
- オープンソースのFlashMLAはdecodeカーネルで5〜10%遅く、エンドツーエンドでは最大5%。 社内版との比較による。
- 3FSのKV cache: 約100 PiB、エージェント向けTTL 3日、チャットボット向けTTL 7日、GPUあたり約14.4 TBの論理KV、8 GPUあたり約400 Gbps。 本番設計であり、リリースには含まれない。
C. 二次報道
- CryptoBriefing、2026-10-20 09:35 UTC — ローンチ報道。加えてキャッシュヒット率96%、TTFT約400 ms、230 tokens/s(コーディングでは300)と報じている。これらの数値は公式のREADME/Q&Aの本文にはなく、二次情報かつ未検証として扱う。
- Pasquale Pillitteri、2026-10-20 10:54 UTC — 詳細な独立分析、チャートの読み取り、欠落コンポーネントの一覧。
- IT之家、2026-10-20と第一财经、2026-10-20 — 中国語による公式発表の報道。
- Blockchain.News、TechFlow、KuCoin — 短いローンチ速報。多くはXスレッドの引き写し。
- vLLMブログ、2026-10-07 — 別系統のV4.1-Flash最適化の道筋。DeepInferとの比較ではない。
- SGLangブログ — 別系統のV4.1-Flashカーネルの道筋。DeepInferとの比較ではない。
D. コミュニティの観測
- Hacker Newsの議論、2026-10-20 — 2時間で約120コメント。最も繰り返された技術的異議はKV cacheの欠落だった。ユニットエコノミクスについてのコミュニティの推計は憶測であり、事実として繰り返すことはしない。
- DeepSeek公式Xスレッド — 4投稿、2026-10-20 09:30 UTC。
- LightSeek Foundation — TokenSpeedが最適化を学び取り入れると述べている。
- PR #47(SM90/H20 RFC)とPR #46(Ascend 910C RFC) — 公開された提案であり、マージ済みのサポートではない。
比較の出典
- vLLM README — PagedAttention、連続バッチング、prefixキャッシュ、OpenAI互換API、モデルとハードウェアの対応範囲。
- SGLang V4.1-Flashクックブック — プレビューイメージ、DSpark、PD分離、HiCache、ルータ、ハードウェア。
- SGLangのday-0記事 — V4.1-Flashの機能とハードウェアの対応範囲。
- TensorRT-LLM README — カーネル、ランタイム、prefill-decode分離、Wide EP、Triton/Dynamo、ライセンス。
- TensorRT-LLMサポートマトリクス — 採用前にモデルとGPUの対応を確認する。
- LMDeploy README — TurboMind/PyTorchエンジン、DeepSeek V3/R1の実績、PD分離、Ascend、OpenAI API。
- TGI README — メンテナンスモードの告知、機能、ハードウェア、ライセンス。
- TGI Messages API — OpenAI Chat Completionとの互換性。
- Xinference README — マルチモデル基盤、OpenAI API、分散ワーカー、バックエンド。
- NVIDIA Dynamo README — オーケストレーション層、分離サービング、KVを意識したルーティング、KVBM、バックエンド。
- llama.cpp README — GGUF、バックエンド、量子化、ローカルサーバー、ライセンス。
- Ollama READMEとOpenAI互換性 — ローカルランナーとAPIの範囲。
- MLC-LLM README — コンパイラ/MLCEngine、プラットフォーム、API、ライセンス。
名称の識別に関する出典
- 医療DeepInferのGitHubオーガニゼーション(2016年作成)とSlicer-DeepInfer。
- 「DeepInfer: open-source deep learning deployment toolkit for image-guided therapy」、SPIE Medical Imaging 2017。
- 「DeepInfer: Deep Type Inference from Smart Contract Bytecode」、ESEC/FSE 2023。コード。
- DeepInfra — 商用推論プロバイダー。綴りが違い、主体も別。
読めなかったもの
中国語のZhihu記事には「线上系统实际统计」という画像がある。本サイトの環境では画像ホストを読み込めず(SSLエラー)、テキスト版も本文のみが取得できた。そのため、このダッシュボードに由来するキャッシュヒット率96%、TTFT約400 ms、230 tok/sという数値は二次情報のままとした。見出し、仕様帯、ベンチマーク表には載せていない。
またSM100やAscend 950のハードウェアにもアクセスできなかったため、コードの実行、チャートの再現、Ascend性能の測定は行っていない。本サイトの性能に関する記述はすべて資料の読解であり、実機の結果ではない。
本サイトの引用方法
事実の主張を引用する場合は、本資料ではなくページにリンクされた一次資料を引用してほしい。分析や名称識別の表を引用する場合は、該当ページにリンクし、アクセス日を添えてほしい。
DeepInfer Field Notes、「DeepInfer vs DeepInfra vs 医療DeepInfer: 名称の識別」、2026年10月20日アクセス、https://deepinfer.net/name/。
資料が変わった場合や主張が誤っていた場合は、ページとこの台帳を同時に更新するべきだ。各ページ上部のスナップショット日付が、確認した範囲の境界を示している。