制約付きデコーディングは、言語モデルがトークンを生成する際に、JSONスキーマ、文法、正規表現などの形式規則に合うトークンだけを選べるように確率分布を制限する手法である。各ステップで規則に反するトークンの確率をゼロにし、出力が所定の構造に必ず従うようにする。
構造化出力、関数呼び出し、ツール利用など、モデル出力をプログラムがそのまま読み取るエージェント用途で使われる。Outlines、SGLang、vLLMなどのライブラリや推論エンジンが形式を有限状態機械に変換して実装しており、規則上トークンが一意に決まる箇所ではモデル呼び出しを省略して処理速度を高めることもある。