Goodhart's law굿하트의 법칙

Goodhart's law(굿하트의 법칙)는 영국 경제학자 Charles Goodhart가 통화 정책에 관해 제시한 관찰에서 이름을 딴 원리다. 사람이나 시스템이 특정 지표를 목표로 삼아 최적화하면 지표가 원래 측정하려던 대상을 제대로 반영하지 못하게 된다는 뜻이다.

AI 분야에서는 모델이 보상이나 평가 점수를 과제의 의도와 다른 방식으로 끌어올리는 reward hacking, specification gaming 같은 문제를 설명하는 데 쓰인다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.