Bifrost

BifrostはMaxim AIが開発したオープンソースのAIゲートウェイで、複数のLLMプロバイダーのAPIを単一のOpenAI互換エンドポイントに統合し、ルーティングやフォールバックを担う。

記事1本最終言及

BifrostはMaxim AIが開発したオープンソースのAIゲートウェイ(LLMゲートウェイ)である。Go言語で書かれており、OpenAI、Anthropic、Googleなど複数のモデルプロバイダーのAPIを単一のOpenAI互換エンドポイントに統合する。

モデル間のルーティングとフォールバック、負荷分散、APIキー管理、利用状況の可観測性といった機能を備え、自社サーバーに設置して運用するセルフホスト方式を基本とする。アプリケーションのコードを変えずにプロバイダーを切り替えたり、複数のモデルを併用したりする用途で使われる。

この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。

この項目を扱った記事

  • Coder、ボット処理をオンプレ移行しAI費用を月$1,750から$11未満に削減AI性能 ·

    …、チーム予算、監査ログを担うCoder AI Gateway、ルーティングルールとエンドポイント切り替えを担うオープンソースのセルフホスト型ゲートウェイBifrost、そしてハードウェアの温度、VRAM使用量、待ち行列の深さをリアルタイムでBifrostに送り込み、トラフィックを実際の処理能力に従わせる独自のテレメトリ…

    記事を読む

説明の誤りや、見つからない項目はありますか?

事典の説明は、AIPOSTの記事と広く知られた事実をもとにまとめています。誤りは訂正依頼でお知らせいただければ、確認して修正します。新しい記事に登場した名前は、記事の公開後に事典に加わります。