DeepInferは、中国のAI企業DeepSeekが開発した大規模言語モデルの推論エンジンである。DeepSeek自身のAPIサービスを実際に動かしているエンジンで、2026年10月にApache 2.0ライセンスでGitHubに公開された。
DeepSeekが先に公開していたカーネルライブラリのFlashMLA、DeepGEMM、DeepEPを基盤として構築されており、MoEモデル向けのエキスパート並列と負荷分散、投機的デコーディング、構造化出力などに対応する。NVIDIA Blackwell級のGPUやHuawei Ascend NPUといったデータセンター向けハードウェアを対象とし、公開版はオフラインのバッチ推論をサポートする。