OpenInference
OpenInference是基于OpenTelemetry、规定AI应用执行记录方式的开源规范。
1篇文章
最近提及 OpenInference是一套开源规范和插桩库,规定如何把语言模型调用、工具调用、检索等AI应用行为记录为追踪数据。它以分布式追踪标准OpenTelemetry为基础,由Arize AI主导。
它为众多AI框架和模型SDK提供插桩工具,因此同一格式的追踪数据可以发送到不同的可观测性平台,而不必绑定某一家厂商。
本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。