ChatML(Chat Markup Language)은 언어 모델에 입력하는 대화를 역할별 메시지로 구조화하는 텍스트 형식이다. 각 메시지는 `<|im_start|>` 뒤에 system, user, assistant 같은 역할 이름을 붙여 시작하고 `<|im_end|>` token으로 끝난다. 이렇게 하면 모델이 어디까지가 사용자의 말이고 어디서 비서의 답이 끝나는지 구분할 수 있고, 일반 텍스트와 지시문이 섞이는 것을 막는 데도 도움이 된다.
OpenAI가 2023년 gpt-3.5-turbo API를 공개하면서 함께 소개했으며, 이후 Alibaba Cloud의 Qwen 계열을 비롯한 여러 오픈 weight 모델이 자체 chat template로 채택했다. instruct 모델을 쓸 때는 보통 tokenizer가 제공하는 chat template가 메시지를 이 형식으로 자동 변환한다.