チャットテンプレートは、system・user・assistantなどの役割を持つ会話メッセージの一覧を、言語モデルが入力として受け取る1つのトークン列に変換する規則を定義したテンプレートである。モデルごとに役割の区切り記号や特殊トークンが異なるため、学習時と同じ書式で入力を組み立てる必要がある。
Hugging Faceのtransformersライブラリは、Jinja構文で書いたチャットテンプレートをトークナイザー設定に含めて配布する方式を広め、llama.cppなどの推論エンジンもGGUFファイルに含まれる同じテンプレートを読み取って利用する。テンプレートはsystemメッセージの位置やツール呼び出しの書式といった制約も定めるため、モデルが想定しないメッセージ順序が入るとエラーになることがある。