Bifrost是Maxim AI开发的开源AI网关(LLM网关)。它用Go语言编写,将OpenAI、Anthropic、Google等多家模型提供商的API统一为单一的OpenAI兼容端点。
它提供模型间路由与回退、负载均衡、API密钥管理和用量可观测性等功能,以部署在组织自有服务器上的自托管方式为主。常用于在不修改应用代码的情况下切换提供商或混合使用多个模型。
Bifrost是Maxim AI开发的开源AI网关,将多家LLM提供商的API统一为单一的OpenAI兼容端点,并处理路由与回退。
Bifrost是Maxim AI开发的开源AI网关(LLM网关)。它用Go语言编写,将OpenAI、Anthropic、Google等多家模型提供商的API统一为单一的OpenAI兼容端点。
它提供模型间路由与回退、负载均衡、API密钥管理和用量可观测性等功能,以部署在组织自有服务器上的自托管方式为主。常用于在不修改应用代码的情况下切换提供商或混合使用多个模型。
本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。
网关本身分为三层:Coder AI Gateway 负责身份验证、用户归属、团队预算和审计日志;Bifrost 是一个开源的自托管网关,负责路由规则和端点切换;另有一个定制的遥测垫片,把实时的硬件温度、显存占用和队列深度喂给 Bifrost,使流量跟随实际容量流动。
阅读文章百科说明依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们,我们会核实并修改。新文章中出现的名称会在文章发布后加入百科。