human-in-the-loop휴먼 인 더 루프

human-in-the-loop(HITL)는 기계가 처리하는 과정의 정해진 지점에 사람의 판단을 넣는 방식을 가리킨다. 머신러닝에서는 사람이 데이터에 라벨을 붙이거나 모델의 출력을 평가해 학습에 반영하는 과정을 뜻하고, 자동화 시스템에서는 중요한 동작을 실행하기 전에 사람이 확인하고 승인하는 절차를 뜻한다.

AI agent 설계에서는 결제, 데이터 삭제, 외부 전송처럼 되돌리기 어려운 동작 앞에 사람의 승인을 두는 안전장치로 쓰인다. 사람이 관여하지 않고 시스템이 스스로 처리하는 방식은 human-out-of-the-loop, 사람이 지켜보다가 필요할 때만 개입하는 방식은 human-on-the-loop라고 부른다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.