コンパクションcompaction
会話がコンテキストウィンドウの上限に近づいた際、それまでの内容を要約・圧縮して作業を続けられるようにする言語モデルの手法。
記事3本
最終言及 コンパクションは、大規模言語モデルを用いたエージェントが長時間の作業を行う際に、会話や作業履歴がコンテキストウィンドウの上限に近づくと、それまでの内容を要約または圧縮して重要な状態だけを残す手法である。圧縮した内容を新しいコンテキストウィンドウの出発点として作業を継続する。
長時間にわたるコーディングエージェントの作業で、以前の要件や進捗を失わずにトークン消費を抑えるために使われる。圧縮の過程で細部が失われうる点が課題とされる。
この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。
この項目を扱った記事
こうした長時間の実行を可能にしているのがコンパクションです。
コンパクション: Agents APIではハーネスの中で自動的に行われます。