ChatML(Chat Markup Language)は、言語モデルに入力する会話を役割付きメッセージの列として構造化するテキスト形式である。各メッセージは`<|im_start|>`に続けてsystem、user、assistantなどの役割名で始まり、`<|im_end|>`トークンで終わる。これによりモデルは、ユーザーの発話がどこで終わり、アシスタントの応答をどこで止めるべきかを区別でき、指示と通常のテキストが混ざるのを防ぐのにも役立つ。
OpenAIが2023年にgpt-3.5-turbo APIの公開と合わせて紹介し、その後Alibaba CloudのQwenシリーズをはじめとする複数のオープンウェイトモデルがチャットテンプレートとして採用した。instructモデルを使う際は、通常トークナイザーが提供するチャットテンプレートがメッセージをこの形式へ自動変換する。