context rot컨텍스트 로트

context rot는 AI 모델에 제공된 자료가 길어질수록 앞뒤 맥락과 정보 사이의 관계를 놓쳐 성능이 떨어지는 현상이다. 긴 입력을 처리하는 대규모 언어 모델의 정보 활용 저하를 가리키며, 벡터 데이터베이스 기업 Chroma가 2025년 발표한 보고서를 계기로 널리 쓰이게 됐다.

context window(모델이 한 번에 참조할 수 있는 입력 범위) 안에 자료가 들어가더라도 발생할 수 있다는 점에서, 단순한 입력 길이 제한과 다르다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.