OpenInference
AIアプリケーションの実行記録の残し方を定めた、OpenTelemetryベースのオープンソース仕様。
記事1本
最終言及 OpenInferenceは、言語モデルの呼び出し、ツール呼び出し、検索といったAIアプリケーションの動作をトレースとして記録する方式を定めたオープンソースの仕様と計装ライブラリ群である。分散トレーシングの標準であるOpenTelemetryを基盤とし、Arize AIが主導している。
多くのAIフレームワークやモデルSDK向けの計装を提供するため、特定のオブザーバビリティツールに縛られず、同じ形式の記録を複数の基盤に送ることができる。
この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。