few-shot은 소수의 예시만으로 모델이 새 작업을 수행하게 하는 방식이다. 대규모 언어 모델에서는 prompt(모델에 주는 지시문)에 입력과 원하는 출력의 예시를 몇 개 넣어 답의 형식과 풀이 방식을 유도하는 few-shot prompting을 주로 가리킨다. 모델의 가중치는 바꾸지 않으며, 예시를 하나도 주지 않는 zero-shot, 하나만 주는 one-shot과 구분한다.
원래 머신러닝에서는 라벨이 붙은 데이터가 매우 적은 조건에서 모델을 학습시키는 few-shot learning을 뜻하는 말로 쓰였다. 언어 모델이 prompt 안의 예시만 보고 작업을 익히는 현상은 in-context learning이라 부르며, 어떤 예시를 고르고 어떤 순서로 배치하느냐에 따라 결과가 달라진다.