DeepGEMM

딥GEMM

DeepSeek이 2025년 공개한 FP8 행렬 곱셈(GEMM) kernel 라이브러리로, 일반 모델과 MoE 모델을 모두 지원한다.

기사 1편최근 언급

DeepGEMM은 중국 AI 기업 DeepSeek이 개발한 오픈소스 행렬 곱셈 kernel 라이브러리다. 대규모 언어 모델의 학습과 추론에서 가장 많은 연산을 차지하는 GEMM(일반 행렬 곱셈)을 FP8 정밀도로 효율적으로 수행하도록 설계됐으며, 2025년 2월 DeepSeek의 오픈소스 공개 주간에 공개됐다.

일반 모델용 GEMM과 MoE 모델의 expert별 연산을 묶어 처리하는 grouped GEMM을 모두 지원하며, kernel을 실행 시점에 컴파일하는 구조를 갖는다. DeepSeek의 추론 엔진 DeepInfer가 기반으로 삼는 라이브러리 가운데 하나다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.

이 항목을 다룬 기사

  • DeepSeek, 서빙 엔진 DeepInfer 공개와 $2.10 코딩 비용AI 뉴스 ·

    DeepInfer는 DeepSeek이 직접 만든 Apache 2.0 kernel 라이브러리인 FlashMLA, DeepGEMM, DeepEP를 바닥부터 쌓아 올린 구조입니다.

    기사 읽기

설명이 잘못되었거나 찾는 항목이 없나요?

위키 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리합니다. 잘못된 설명은 정정 요청으로 알려 주시면 확인해 고칩니다. 새 기사에 나온 이름은 기사가 올라온 뒤 위키에 더해집니다.