positional embedding은 transformer가 token의 순서를 알 수 있도록 각 token의 위치 정보를 벡터로 바꿔 입력 embedding에 더하는 요소다. attention 연산 자체는 입력의 순서를 구별하지 못하므로 위치 정보를 따로 넣어야 한다. positional encoding이라고도 한다.
고정된 sin·cos 함수를 쓰는 방식, 위치마다 벡터를 학습하는 방식, query와 key를 회전시켜 상대 위치를 반영하는 RoPE 등이 있다. 모델은 학습 때 본 범위의 위치만 제대로 해석하므로 positional embedding 방식은 context window 길이의 실질적 한계와 긴 context로 확장하는 방법을 결정한다.