feature engineering은 원시 데이터를 가공해 machine learning 모델의 입력 변수인 feature를 설계·선택·변환하는 작업이다. 날짜에서 요일을 뽑거나 여러 열을 조합해 새 변수를 만드는 일, 범주형 값을 숫자로 바꾸는 일, 값의 범위를 정규화하는 일이 여기에 든다. 전통적인 machine learning에서 모델 성능을 좌우하는 핵심 단계로, 데이터와 업무에 대한 지식이 필요하다.
XGBoost 같은 표 데이터 모델에서는 과제마다 feature engineering을 반복해야 하지만, 딥러닝은 원시 데이터에서 표현을 스스로 학습해 이 부담을 줄인다. 표 데이터용 foundation model은 이 작업을 더 줄이려는 시도다.