'Lost in the Middle: How Language Models Use Long Contexts'는 Stanford University의 Nelson F. Liu 등이 2023년에 발표한 논문이다. 여러 문서를 입력으로 주고 답을 찾게 하는 실험에서, 관련 정보가 입력의 맨 앞이나 맨 끝에 있을 때는 언어 모델의 정확도가 높지만 중간에 있을 때는 크게 떨어지는 U자형 성능 곡선을 보였다. 긴 context window를 지원하는 모델에서도 같은 경향이 나타났다.
이 현상은 'lost in the middle'이라는 이름으로 불리며, RAG(검색 증강 생성)에서 문서를 배치하는 순서, 긴 prompt의 구성, agent에 주는 지시를 context 앞뒤에 두는 설계 등 LLM 활용 실무에서 자주 인용되는 근거가 됐다.