DeepInfer

딥인퍼

DeepSeek이 자사 API 서비스 운영에 쓰는 대규모 언어 모델 추론 엔진으로, 2026년 오픈소스로 공개됐다.

기사 1편최근 언급

DeepInfer는 중국 AI 기업 DeepSeek이 개발한 대규모 언어 모델 추론 엔진이다. DeepSeek이 자사 API 서비스를 실제로 운영하는 데 쓰는 엔진으로, 2026년 10월 Apache 2.0 라이선스로 GitHub에 공개됐다.

DeepSeek이 앞서 공개한 kernel 라이브러리 FlashMLA, DeepGEMM, DeepEP 위에 구축됐으며, MoE 모델을 위한 expert parallelism과 부하 분산, speculative decoding, structured output 등을 지원한다. NVIDIA Blackwell급 GPU와 Huawei Ascend NPU 같은 데이터센터용 하드웨어를 대상으로 하며, 공개된 버전은 오프라인 batch 추론을 지원한다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.

이 항목을 다룬 기사

  • DeepSeek, 서빙 엔진 DeepInfer 공개와 $2.10 코딩 비용AI 뉴스 ·

    이 숫자의 배경에는 2026년 10월 DeepSeek이 내놓은 두 가지 공개, 즉 MIT 라이선스의 open-weight(가중치를 공개한) 모델 V4.1-Flash-1017과 자사 API를 실제로 돌리는 추론 엔진 DeepInfer가 있습니다.

    기사 읽기

설명이 잘못되었거나 찾는 항목이 없나요?

위키 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리합니다. 잘못된 설명은 정정 요청으로 알려 주시면 확인해 고칩니다. 새 기사에 나온 이름은 기사가 올라온 뒤 위키에 더해집니다.