overfitting(과적합)은 머신러닝 모델이 학습 데이터에 지나치게 맞춰져, 데이터에 담긴 일반적인 규칙이 아니라 잡음과 우연한 특징까지 학습하는 현상이다. 그 결과 학습 데이터에서는 성적이 좋지만 처음 보는 데이터에서는 성능이 떨어진다. 반대로 모델이 너무 단순해 학습 데이터조차 제대로 맞추지 못하는 현상은 underfitting(과소적합)이라고 한다.
모델의 복잡도에 비해 데이터가 적거나 학습을 너무 오래 할 때 주로 생긴다. 이를 막기 위해 학습 데이터와 별도의 검증 데이터로 성능을 재고, regularization, dropout, early stopping, 데이터 증강 같은 기법을 쓴다. 같은 benchmark에 맞춰 모델이나 시스템을 반복해서 조정할 때 그 benchmark에만 맞춰지는 현상도 overfitting이라 부른다.