DeepInfer と vLLM：DeepSeek-V4.1-Flash を動かすのはどちらか
DeepInfer は DeepSeek の1モデル専用推論エンジン。vLLM は API 層を持ち、エコシステムがはるかに広い汎用サービングフレームワークだ。有用なのは適用範囲と適合の比較であり、でっち上げた速度の勝者ではない。
DeepInfer と vLLM は互換ではない。DeepInfer は DeepSeek が Apache-2.0 で公開した、DeepSeek-V4.1-Flash 専用の推論エンジンだ。vLLM は 200 以上のモデルアーキテクチャ、OpenAI 互換 API、はるかに広いハードウェア対応を持つ汎用 LLM サービングフレームワークである。公開された直接比較はないので、ここで比べるのは適用範囲と適合であり、作り上げた勝者ではない。
結論から
vLLM を選ぶのは、今すぐ提供できる API が必要な場合、複数モデルのサポートが要る場合、運用の実績が欲しい場合だ。DeepInfer を検討するのは、SM100 か Ascend 950 のハードウェアがあり、V4.1-Flash だけをサービングし、DeepSeek 自身の本番由来エンジンを使いたい場合である。サービング層は自分で作ることになると理解したうえで。
ほとんどのチームにとって、vLLM のほうがリスクの低い出発点だ。DeepInfer はより興味深い参照実装である。この2つは役割が違う。
DeepInfer が vLLM より速いとも、その逆とも主張しない。両プロジェクトは異なるハードウェア、モデル、コンテキスト、ワークロードで数値を公開している。公平な比較には、同じチェックポイント、GPU 枚数、入出力長、キャッシュヒット率、バッチ方針、レイテンシ SLO が必要だ。こちらはどちらのエンジンも同一のハードウェアで動かしていない。
それぞれの概要
DeepInfer
DeepInfer は、DeepSeek-V4.1-Flash を大規模にサービングするための DeepSeek のオープンソース推論フレームワークだ。ライセンスは Apache-2.0 で、NVIDIA SM100 と Huawei Ascend 950 に対応する。最適化カーネル、Wide-EP/EPLB、DSpark による投機的デコーディング、SWA 有界リプレイ、非同期スケジューリング、決定論モード、構造化出力を備えたオフラインエンジンとして公開されている。
完全なサービングスタックではない。公開版には KV cache システム、prefill/decode 分離、データ並列の負荷分散が含まれない。対応モデルも1つだけだ。価値は DeepSeek 固有のチューニングと、本番の推論スタックを覗ける点にある。
vLLM
vLLM は汎用の推論・サービングエンジンだ。README には PagedAttention、連続バッチ処理、chunked prefill、プレフィックスキャッシュ、prefill/decode/encode の分離、投機的デコーディング（n-gram、suffix、EAGLE、DFlash）、OpenAI 互換 API サーバー（Anthropic Messages と gRPC も）、200 以上のモデルアーキテクチャが記載されている。NVIDIA、AMD、Intel の GPU、CPU、そして Huawei Ascend を含むハードウェアプラグインに対応する。
vLLM も V4.1-Flash 向けの最適化を公開している。ブログによれば、低同時実行時は 1.9 倍高速化し、SemiAnalysis AgentX ワークロードでは 150 TPS の制約下でスループットが 5.3 倍改善するという。いずれも vLLM 自身の環境での測定であり、DeepInfer との比較ではない。
比較表：速度ではなく適用範囲
| 項目 | DeepInfer | vLLM |
|---|---|---|
| 種類 | DeepSeek 専用のオフラインエンジン | 汎用 LLM 推論・サービングフレームワーク |
| 対応モデル | DeepSeek-V4.1-Flash のみ | 200 以上のアーキテクチャ。V4.1-Flash の最適化も公開 |
| ハードウェア | NVIDIA SM100、Huawei Ascend 950 | NVIDIA/AMD/Intel GPU、CPU。Huawei Ascend を含むプラグイン |
| オンライン API | 公開版にはなし | OpenAI 互換サーバー、Anthropic Messages、gRPC |
| KV cache | 含まれない | PagedAttention、プレフィックスキャッシュ、chunked prefill |
| PD 分離 | 含まれない | prefill、decode、encode の分離 |
| 投機的デコーディング | DSpark | n-gram、suffix、EAGLE、DFlash |
| ライセンス | Apache-2.0 | Apache-2.0 |
| 成熟度 | 初期の公開リリース。公開時点のコミットは3件 | 大規模で長く続くオープンソースプロジェクト |
| 向いている用途 | V4.1 の研究と独自のデプロイ | 汎用 API と幅広いモデル対応 |
出典：DeepInfer の README と Q&A、vLLM の README と V4.1-Flash ブログ。2026-10-20 参照。
DeepInfer が優位な点
- DeepSeek 自身による V4.1 のチューニング。エンジンはモデルの CED アーキテクチャ、DSpark のドラフト経路、SWA 有界リプレイ、Wide-EP のデコード配置を前提に作られている。汎用フレームワークでは通常ここまで踏み込めない、密接なモデルとエンジンの共同設計だ。
- 決定論モード。バッチ不変推論と決定論的サンプリング（NVIDIA のみ）は、評価、監査、再現可能なエージェント実行に役立つ。目玉の機能ではないが、必要なチームには効く。
- Ascend 950 対応。README は SM100 と並べて Huawei Ascend 950 を挙げている。vLLM にも Ascend プラグインはあるが、DeepInfer の対応は別個のバックエンドではなく公式リリースの一部だ。
- 読む価値。カーネルスタック、EPLB、DSpark のスケジューリング、SWA リプレイが異例なほど詳しく説明されている。推論エンジニアなら、実際に配備しなくても読む価値がある。
vLLM が優位な点
- 本物の API 層。vLLM は OpenAI 互換サーバーに加え、Anthropic Messages と gRPC を備える。DeepInfer が提供するのはオフラインの Python サンプルであり、HTTP サービスではない。
- モデルの広さ。200 以上のアーキテクチャ対1つ。V4.1-Flash 以外もサービングするなら、比較はそこで終わる。
- ハードウェアの広さ。NVIDIA、AMD、Intel、CPU、各種プラグイン。DeepInfer の公式リストは SM100 と Ascend 950 だ。
- 本番向け機能。プレフィックスキャッシュ、chunked prefill、PD 分離、成熟したスケジューラがフレームワークに組み込まれている。統合プロジェクトとして残されていない。
- エコシステムと成熟度。vLLM には多数のコントリビューター、各種統合、数年の本番運用実績がある。DeepInfer は公開初日のリリースで、公開コミットは3件だ。
ベンチマークの罠
DeepInfer の2つのパレート図を vLLM の V4.1 ブログの隣に置いて、勝者を宣言するのは簡単だ。しかしそれは間違いである。
- DeepInfer のグラフは prefill に 4 基、decode に 64 基の SM100 GPU を使い、コンテキストは 131,072 トークン、デコード設定は
nextn=3とドラフト受入率 75% だ。測っているのは自社エンジンのスループットとレイテンシのフロンティアである。 - vLLM のブログは、SemiAnalysis AgentX で低同時実行時に 1.9 倍、150 TPS 制約下でスループット 5.3 倍と報告している。長い入力と高いプレフィックスキャッシュ再利用率を持つ、別のワークロードだ。
- 単位が違う。tokens/s/GPU、tokens/s/user、TTFT、TPOT、エンドツーエンドのリクエストレイテンシは互換ではない。スループットの数字が高くても、ユーザーあたりのレイテンシは悪いことがある。
実際の比較が必要なら、モデルのチェックポイント、GPU の種類と枚数、入出力長の分布、キャッシュヒット率、バッチ方針、SLO を固定する。そのうえで p50/p95/p99 の TTFT と TPOT、レイテンシ制約下のスループット、送出した出力100万トークンあたりのコストを報告する。誰かがそれを公開するまでは、両ベンダーの数字は方向性を示すものとして扱うべきだ。
第三者が、同じハードウェアと同じワークロードで、正確なコミットと設定を添えて示すベンチマーク。DeepInfer か vLLM がそれを公開したら、このページは更新されるべきだ。勝者はデータが示すものであって、ローンチ記事がほのめかすものではない。
選び方
| こういう場合 | まず選ぶなら | 理由 |
|---|---|---|
| 来週までに API が必要 | vLLM | OpenAI 互換サーバー、認証との統合、運用の実績 |
| 複数モデルをサービングする | vLLM | 200 以上のアーキテクチャ。DeepInfer は1つだけ |
| SM100 か Ascend 950 があり、V4.1-Flash だけを動かす | 両方を評価 | DeepInfer は DeepSeek のチューニング、vLLM はサービング層を提供する |
| DeepSeek の本番スタックを研究したい | DeepInfer | カーネル、EPLB、DSpark、SWA リプレイ、決定論モード |
| 実績のあるマルチテナントサービスが今すぐ必要 | vLLM | DeepInfer の KV cache、PD、LB は公開版にない |
FAQ
DeepInfer は vLLM より速いのか
公開された直接比較はない。DeepInfer のグラフは SM100 上の自社エンジンのもの、vLLM が公開している V4.1-Flash の数値は別のハードウェアとワークロードによるものだ。どちらもワークロード固有の証拠として扱い、普遍的な勝者とは見なさないこと。
OpenAI 互換 API のために DeepInfer が vLLM を置き換えられるか
できない。DeepInfer は利用者向け API を持たないオフラインエンジンだ。vLLM は OpenAI 互換サーバーを同梱する。DeepInfer の上にサービング層を作る必要がある。
それぞれどのモデルに対応するか
DeepInfer は DeepSeek-V4.1-Flash のみ。vLLM は DeepSeek 系を含む 200 以上のモデルアーキテクチャに対応するが、現行バージョンの対応表の範囲による。
どちらを選ぶべきか
汎用 API、幅広いモデル対応、成熟したサービング層が必要なら vLLM。SM100 か Ascend 950 のハードウェアがあり、研究や独自デプロイのために DeepSeek の V4.1-Flash 専用エンジンを使いたいなら DeepInfer を検討する。
出典
- DeepInfer README — 適用範囲、ハードウェア、欠けている構成要素、グラフ。
- DeepInfer Q&A — 本番アーキテクチャ、DSpark、EPLB、KV cache の設計。
- vLLM README — PagedAttention、連続バッチ処理、API、モデルとハードウェアの対応範囲。
- vLLM V4.1-Flash ブログ — ベンダー申告の最適化。DeepInfer との比較ではない。
- DeepInfer のベンチマーク — 公式グラフの読み方。
- DeepInfer の制限 — 欠けているサービング層。
次に読む：DeepInfer と SGLang、DeepInfer と TensorRT-LLM、あるいは比較一覧。