DeepInfer는 중국 AI 기업 DeepSeek이 개발한 대규모 언어 모델 추론 엔진이다. DeepSeek이 자사 API 서비스를 실제로 운영하는 데 쓰는 엔진으로, 2026년 10월 Apache 2.0 라이선스로 GitHub에 공개됐다.
DeepSeek이 앞서 공개한 kernel 라이브러리 FlashMLA, DeepGEMM, DeepEP 위에 구축됐으며, MoE 모델을 위한 expert parallelism과 부하 분산, speculative decoding, structured output 등을 지원한다. NVIDIA Blackwell급 GPU와 Huawei Ascend NPU 같은 데이터센터용 하드웨어를 대상으로 하며, 공개된 버전은 오프라인 batch 추론을 지원한다.