DeepInfer FAQ: DeepSeek V4.1-Flashに関する質問
DeepInfer——DeepSeekのV4.1-Flash推論フレームワーク——について、短く出典付きで答える。何であるか、何の上で動くか、何が欠けているか、どのくらい速いか、そしてどのDeepInferの話なのか。
一文で答えるなら、DeepInferはDeepSeek-V4.1-Flashを大規模にサービングするためのDeepSeekのオープンソース推論フレームワークだ。オフラインのエンジンであり、ホスト型APIではない。完全なサービスに必要なKV cache、prefill/decode分離、ロードバランシングは含まれていない。本FAQではV4.1-Flashのリリース、ハードウェア、ベンチマーク、名称の衝突を扱う。
DeepInferはNVIDIA SM100 GPUとHuawei Ascend 950 NPUをサポートするが、DeepSeekが公開した性能チャートはNVIDIAハードウェアのみを対象としている。
基本
DeepInferとは何か。
DeepInferは、DeepSeek-V4.1-Flashを大規模にサービングするためのDeepSeekのオープンソース推論フレームワークだ。2026年10月20日にApache-2.0で公開された。
DeepInferはモデルか。
いいえ。DeepInferはモデルを動かすエンジンだ。モデルはDeepSeek-V4.1-Flash-1017で、重みはMITライセンスである。
DeepInferは商用利用が無料か。
DeepInferのコードはApache-2.0で、通常の通知義務のもとで商用利用と改変が認められる。デフォルトのモデル重みはMITだ。デプロイ前に同梱依存関係のライセンスを確認してほしい。
実行環境
DeepInferはどのモデルをサポートするか。
このリリースではDeepSeek-V4.1-Flashのみだ。デフォルトのチェックポイントはDeepSeek-V4.1-Flash-1017である。
RTX 4090やH100でDeepInferを動かせるか。
READMEが挙げているのはNVIDIA SM100 GPUとHuawei Ascend 950 NPUだ。旧世代のNVIDIAやコンシューマー向けカードはサポート対象として記載されていない。
DeepInferにOpenAI互換のAPIサーバーは含まれるか。
いいえ。リリースが提供するのはオフライン推論であり、ホスト型APIではない。サービング層は自分で作る必要がある。DeepSeekはAPIプロトコル変換とトークナイズを担うdeepseek-recipeも公開しているが、それはサーバーではない。
DeepInferは完全な本番サービングスタックか。
いいえ。READMEは欠けている3つを明示している。KV cacheシステム、VE/Prefill/Decodeの分離、データ並列レプリカ間のロードバランシングだ。
欠落部分
KV cacheシステムが欠けているのはなぜか。
DeepSeekは、KV cacheの管理とロードバランシングのコンポーネントが社内インフラと強く結合しているため、そのコードはまだ完全にはオープンソース化していないと述べている。
DeepInferはHuawei Ascend 950をサポートするか。
はい。READMEはNVIDIA SM100 GPUと並んでAscend 950 NPUを挙げている。ただしDeepSeekはDeepInferについてAscend 950の性能値を公開していない。
DeepSeekは本当に本番エンジンをオープンソース化したのか。
DeepSeekはDeepInferが自社の本番サービスを支えていると述べているが、リリースされたのはその一部だ。KV cacheシステム、PD分離、ロードバランシングは含まれておらず、外部から本番同等性を検証することはできない。
数字
DeepInferはどのくらい速いのか。
DeepSeekは2つのParetoチャートを公開している。SM100 4基でのprefillと、SM100 64基・コンテキスト131,072トークンでのdecodeだ。第三者による再現はない。チャートはあなたのワークロードへの約束ではなく、トレードオフの地図として読むべきである。
DSparkとは何か。
DSparkはDeepSeekの投機的デコードの経路だ。draftトークンとconfidence headを使い、可変長の検証をスケジュールする。draft長のデフォルト上限は5である。
SWA bounded replayとは何か。
欠けたsliding-window attentionのKVを、全レイヤーのウィンドウ全体ではなく直近のトークンだけを再実行して再構築する手法だ。V4.1のデフォルトは140トークンのサフィックスを保持する。
deepseek-recipeとは何か。
MITライセンスの別ライブラリで、Rust製ライブラリにPythonバインディングを付けたもの。Chat Completions、Responses、MessagesのリクエストをDeepSeekのプロンプトとトークンIDに変換し、モデル出力をプロトコルのレスポンスに戻す。
名称
DeepInferという名前は、無関係な2016年の医療画像ツールキットと、無関係な2023年のスマートコントラクト型推論プロジェクトも指す。本サイトが扱うのはDeepSeekの2026年の推論フレームワークのみだ。
DeepInferはDeepInfraと同じものか。
いいえ。DeepInfraはdeepinfra.comの商用推論プロバイダーだ。DeepInferはDeepSeekのオープンソースフレームワークである。DeepInferは商用推論プロバイダーのDeepInfraと提携関係にない。
DeepInferは医療やスマートコントラクトのDeepInferと同じものか。
いいえ。2016年の医療画像ツールキットと2023年のスマートコントラクト研究プロジェクトは、DeepSeekの2026年の推論フレームワークとは無関係だ。
どこから読むか
リリースの事実を知りたいならDeepInferが実際に公開したものを読んでほしい。エンジニアリングを知りたいならエンジンの内部へ。使うかどうかを決める立場なら、まず制約を読み、そのあと10本の比較へ進む。最初に読むならDeepInfer vs vLLM、vs SGLang、vs TensorRT-LLMだ。名前がこんがらがっているなら名称の識別ページを読んでほしい。
DeepInferはvLLMより優れているのか。
公開された直接対決はない。vLLMにはより広いサービング層、OpenAI互換API、モデルカバレッジがある。DeepInferはDeepSeek専用のチューニングを施した1モデル向けエンジンだ。DeepInfer vs vLLMの比較を参照してほしい。
DeepInferとSGLangのどちらを使うべきか。
SGLangにはAPI、PD分離、HiCache、ルータを備えた、より完全なV4.1-Flashのプレビュー経路がある。DeepInferにはDeepSeek自身のエンジンとAscend 950のサポートがある。DeepInfer vs SGLangの比較を参照してほしい。
DeepInferは実行していない。SM100もAscend 950も手元にない。以上の回答は公開資料に基づく。DeepSeek自身の主張で独立に検証されていないものについては、それを扱うページでその旨を明記している。