observability관측 가능성
로그, 지표, trace 같은 출력으로 시스템 내부에서 일어나는 일을 파악할 수 있는 정도, 또는 그렇게 하는 기술이다.
기사 1편
최근 언급 관측 가능성은 소프트웨어 시스템이 내놓는 로그, 지표, trace를 통해 내부 상태와 동작을 이해할 수 있는 성질을 뜻한다. 미리 정한 지표가 정상 범위인지 확인하는 모니터링과 달리, 예상하지 못한 문제의 원인까지 추적할 수 있게 하는 데 초점을 둔다.
AI 분야에서는 대규모 언어 모델 애플리케이션과 AI agent의 prompt, 모델 응답, 도구 호출, token 사용량, 지연 시간, 비용을 기록하고 응답 품질을 평가하는 일을 가리킨다.
이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.