Lost in the Middle

로스트 인 더 미들

언어 모델이 긴 입력의 앞과 끝에 있는 정보는 잘 활용하지만 중간에 있는 정보는 놓치기 쉽다는 현상을 보인 Stanford 연구진의 2023년 논문이다.

기사 1편최근 언급

'Lost in the Middle: How Language Models Use Long Contexts'는 Stanford University의 Nelson F. Liu 등이 2023년에 발표한 논문이다. 여러 문서를 입력으로 주고 답을 찾게 하는 실험에서, 관련 정보가 입력의 맨 앞이나 맨 끝에 있을 때는 언어 모델의 정확도가 높지만 중간에 있을 때는 크게 떨어지는 U자형 성능 곡선을 보였다. 긴 context window를 지원하는 모델에서도 같은 경향이 나타났다.

이 현상은 'lost in the middle'이라는 이름으로 불리며, RAG(검색 증강 생성)에서 문서를 배치하는 순서, 긴 prompt의 구성, agent에 주는 지시를 context 앞뒤에 두는 설계 등 LLM 활용 실무에서 자주 인용되는 근거가 됐다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.

이 항목을 다룬 기사

  • AI agent 코드 정확도, 예시를 먼저 쓰면 27%에서 94%로AI 활용 ·

    단계를 subagent로 나눈 이유: Lost in the Middle

    기사 읽기

설명이 잘못되었거나 찾는 항목이 없나요?

위키 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리합니다. 잘못된 설명은 정정 요청으로 알려 주시면 확인해 고칩니다. 새 기사에 나온 이름은 기사가 올라온 뒤 위키에 더해집니다.