DeepInfer

DeepInferは、DeepSeekが自社APIサービスの運用に用いる大規模言語モデル推論エンジンで、2026年にオープンソース化された。

記事1本最終言及

DeepInferは、中国のAI企業DeepSeekが開発した大規模言語モデルの推論エンジンである。DeepSeek自身のAPIサービスを実際に動かしているエンジンで、2026年10月にApache 2.0ライセンスでGitHubに公開された。

DeepSeekが先に公開していたカーネルライブラリのFlashMLA、DeepGEMM、DeepEPを基盤として構築されており、MoEモデル向けのエキスパート並列と負荷分散、投機的デコーディング、構造化出力などに対応する。NVIDIA Blackwell級のGPUやHuawei Ascend NPUといったデータセンター向けハードウェアを対象とし、公開版はオフラインのバッチ推論をサポートする。

この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。

この項目を扱った記事

  • DeepSeekがV4.1-Flashと推論エンジン公開、コーディング費用は14分の1にAIニュース ·

    その3日後の10月20日には、同社の本番APIを実際に動かしている推論エンジン「DeepInfer」をApache 2.0ライセンスでオープンソース化しました。

    記事を読む

説明の誤りや、見つからない項目はありますか?

事典の説明は、AIPOSTの記事と広く知られた事実をもとにまとめています。誤りは訂正依頼でお知らせいただければ、確認して修正します。新しい記事に登場した名前は、記事の公開後に事典に加わります。