模型路由model routing
根据任务难度、所需性能、成本和响应速度，为每个请求从多个AI模型中选择合适模型进行处理的方式。
5篇文章
最近提及 模型路由（model routing）是把收到的请求分配给多个AI模型之一进行处理的方式。系统依据任务难度、所需质量、成本和响应速度等标准选择模型，负责这一判断的组件称为路由器。
在基于大语言模型的服务中，模型路由用于平衡成本与质量：简单请求交给更小、更便宜的模型，复杂请求交给能力更强的模型。它不同于混合专家模型内部的路由——后者是在单个模型内把输入分配给不同的专家子网络，而模型路由是在彼此独立的多个模型之间进行选择。
本条目依据AIPOST的文章与广为人知的事实整理。如有错误，请通过更正请求告诉我们。
涉及该条目的文章
团队使用时，考虑采用自动模型路由和共享token预算，而不是固定的个人额度。
模型路由器会在任务运行之前决定由哪个模型来处理。
运行框架还需要模型路由：根据任务所需的性能和使用价格为其选择AI模型。
这种分工正是模型路由的核心：在转交请求之前，先选择由哪个模型处理。