OpenInference오픈인퍼런스
AI 애플리케이션의 실행 기록을 남기는 방식을 정한 OpenTelemetry 기반 오픈소스 규격이다.
기사 1편
최근 언급 OpenInference는 대규모 언어 모델 호출, 도구 호출, 검색 같은 AI 애플리케이션의 동작을 trace로 기록하는 방식을 정한 오픈소스 규격이자 계측 라이브러리 모음이다. 분산 추적 표준인 OpenTelemetry를 바탕으로 하며, Arize AI가 주도한다.
여러 AI 프레임워크와 모델 SDK용 계측 도구를 제공하므로, 특정 관측 도구에 묶이지 않고 같은 형식의 기록을 여러 플랫폼으로 보낼 수 있다.
이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.