小型语言模型(SLM)指参数量远少于大语言模型(LLM)的语言模型。虽无明确界限,但一般在数亿到数十亿参数之间,可在单个GPU或笔记本电脑、智能手机等设备上运行。代表性例子包括微软的Phi、谷歌的Gemma以及阿里巴巴Qwen的小型版本。
其通用能力不及前沿大模型,但在延迟、成本和隐私方面具有优势,用于端侧AI和本地部署环境。它们常针对分类、路由、抽取等范围明确的任务进行微调作为专用模型,在智能体系统中也作为减少大模型调用的组件使用。
SLM
参数量远少于大语言模型、可在单个GPU或设备上运行的语言模型。
小型语言模型(SLM)指参数量远少于大语言模型(LLM)的语言模型。虽无明确界限,但一般在数亿到数十亿参数之间,可在单个GPU或笔记本电脑、智能手机等设备上运行。代表性例子包括微软的Phi、谷歌的Gemma以及阿里巴巴Qwen的小型版本。
其通用能力不及前沿大模型,但在延迟、成本和隐私方面具有优势,用于端侧AI和本地部署环境。它们常针对分类、路由、抽取等范围明确的任务进行微调作为专用模型,在智能体系统中也作为减少大模型调用的组件使用。
本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。
百科说明依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们,我们会核实并修改。新文章中出现的名称会在文章发布后加入百科。