Bitter Lesson비터 레슨

Bitter Lesson('The Bitter Lesson')은 강화 학습 연구자 Rich Sutton이 2019년에 쓴 짧은 에세이이자 그 주장이다. 수십 년의 AI 연구를 돌아보면 검색과 학습처럼 계산 자원이 늘수록 함께 좋아지는 일반적인 방법이, 연구자가 사람의 지식을 직접 넣어 설계한 방법을 결국 앞질렀다는 내용이다.

이 주장은 모델·데이터·계산량을 키우는 접근을 지지하는 근거로 자주 인용되며, 사람이 설계한 가정(inductive bias)을 어디까지 모델에 넣을지를 둘러싼 논의에서도 기준점으로 쓰인다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.