DeepGEMM

DeepGEMMは、DeepSeekが2025年に公開したFP8行列積(GEMM)カーネルライブラリで、通常のモデルとMoEモデルの両方に対応する。

記事1本最終言及

DeepGEMMは、中国のAI企業DeepSeekが開発したオープンソースの行列積カーネルライブラリである。大規模言語モデルの学習と推論で最も多くの計算を占めるGEMM(一般行列積)をFP8精度で効率的に実行するよう設計されており、2025年2月のDeepSeekのオープンソース公開週間で公開された。

通常のモデル向けGEMMと、MoEモデルのエキスパートごとの計算をまとめて処理するグループ化GEMMの両方に対応し、カーネルを実行時にコンパイルする構造を持つ。DeepSeekの推論エンジンDeepInferの基盤となるライブラリの一つである。

この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。

この項目を扱った記事

  • DeepSeekがV4.1-Flashと推論エンジン公開、コーディング費用は14分の1にAIニュース ·

    DeepGEMM:モデルの計算の大半を占める行列積のためのライブラリ

    記事を読む

説明の誤りや、見つからない項目はありますか?

事典の説明は、AIPOSTの記事と広く知られた事実をもとにまとめています。誤りは訂正依頼でお知らせいただければ、確認して修正します。新しい記事に登場した名前は、記事の公開後に事典に加わります。