compaction컴팩션

compaction은 대규모 언어 모델 기반 agent가 긴 작업을 수행할 때, 대화와 작업 기록이 context window 한도에 가까워지면 앞선 내용을 요약하거나 압축해 핵심 상태만 남기는 기법이다. 압축한 내용을 새 context window의 출발점으로 삼아 같은 작업을 이어 간다.

오래 걸리는 코딩 agent 작업에서 앞선 요구 사항과 진행 상황을 잃지 않으면서 token 사용량을 줄이는 데 쓰인다. 압축 과정에서 세부 정보가 빠질 수 있다는 점이 한계로 꼽힌다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.