ビームサーチは、言語モデルがテキストを生成する際に、各ステップで確率の高い候補トークン列を一定数(ビーム幅)だけ同時に保持し、最終的に全体の確率が最も高い列を選ぶデコーディングアルゴリズムである。各ステップで最も確率の高いトークンを一つだけ選ぶ貪欲法デコーディングに比べ、文全体として確率の高い結果を見つけられるが、複数の候補状態を同時に計算するため時間とメモリのコストが大きい。
機械翻訳や音声認識のように正解に近い出力が比較的一つに定まるタスクで長く使われてきた。対話型LLMサービスでは、コストと多様性の問題から、temperature、top-k、top-pなどのサンプリングベースのデコーディングがより広く使われている。