FlashMLA

플래시MLA

DeepSeek이 2025년 공개한 Multi-head Latent Attention용 고효율 GPU 디코딩 kernel 라이브러리다.

기사 1편최근 언급

FlashMLA는 중국 AI 기업 DeepSeek이 개발한 오픈소스 GPU kernel 라이브러리다. DeepSeek 모델이 쓰는 attention 방식인 MLA(Multi-head Latent Attention)의 디코딩 단계를 NVIDIA GPU에서 효율적으로 실행하도록 설계됐으며, 2025년 2월 DeepSeek의 오픈소스 공개 주간에 처음 공개됐다.

가변 길이 sequence 처리와 paged KV cache를 지원하며, DeepSeek의 추론 엔진 DeepInfer가 기반으로 삼는 kernel 라이브러리 가운데 하나다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.

이 항목을 다룬 기사

  • DeepSeek, 서빙 엔진 DeepInfer 공개와 $2.10 코딩 비용AI 뉴스 ·

    DeepInfer는 DeepSeek이 직접 만든 Apache 2.0 kernel 라이브러리인 FlashMLA, DeepGEMM, DeepEP를 바닥부터 쌓아 올린 구조입니다.

    기사 읽기

설명이 잘못되었거나 찾는 항목이 없나요?

위키 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리합니다. 잘못된 설명은 정정 요청으로 알려 주시면 확인해 고칩니다. 새 기사에 나온 이름은 기사가 올라온 뒤 위키에 더해집니다.