多实例GPUMulti-Instance GPU

多实例GPU(MIG)是英伟达将一块GPU划分为多个相互隔离实例的技术。

1篇文章
最近提及

多实例GPU(MIG)是英伟达于2020年随Ampere架构的A100推出的技术。它将一块GPU的计算单元和显存划分为最多七个实例,每个实例都能像独立的GPU一样运行。

该技术用于多个用户或任务共享同一块GPU的数据中心和云平台。由于每个实例只分得部分资源,处理同样的任务可能比完整GPU更慢。

本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。

涉及该条目的文章

提供一份兼容GPU列表可以减少分配延迟,但测试发现,在Blackwell MIG切片(将一块GPU的一部分作为独立实例分配)上推理,比在NVIDIA RTX 4090上慢1.8倍。


© 2026 AIPOST. All rights reserved.

AIPOST是一家报道AI应用方法、AI安全、性能、创业、健康、伦理与行业资讯的AI专业媒体。无需注册即可使用,个人信息的处理方式请参阅隐私政策。