chat template

채팅 템플릿

대화 메시지 목록을 언어 모델이 처리할 하나의 텍스트로 바꾸는 서식 규칙을 정의한 템플릿이다.

기사 1편최근 언급

chat template(채팅 템플릿)은 system, user, assistant 역할로 나뉜 대화 메시지 목록을 언어 모델이 입력으로 받는 하나의 token 문자열로 바꾸는 규칙을 정의한 템플릿이다. 모델마다 역할 구분 기호와 특수 token이 다르기 때문에, 학습 때 쓴 서식과 같은 서식으로 입력을 만들어야 모델이 제대로 동작한다.

Hugging Face의 transformers 라이브러리는 Jinja 문법으로 쓴 chat template을 tokenizer 설정에 함께 담아 배포하는 방식을 널리 퍼뜨렸고, llama.cpp 같은 추론 엔진도 GGUF 파일에 담긴 같은 템플릿을 읽어 쓴다. 템플릿은 system 메시지의 위치나 도구 호출 서식 같은 제약도 함께 정하므로, 모델이 지원하지 않는 메시지 순서가 들어오면 오류를 내기도 한다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.

이 항목을 다룬 기사

  • 로컬 Qwen에 harness 4종 적용, 버그 수정 22~27개로 차이 작아AI 성능 ·

    최근 Claude Code는 실행 도중에 환경 정보와 token 사용량을 갱신하려고 system 메시지를 대화 중간에 끼워 넣는데, Qwen 3.8의 기본 chat template은 system 메시지가 맨 앞에만 오도록 요구하기 때문입니다.

    기사 읽기

설명이 잘못되었거나 찾는 항목이 없나요?

위키 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리합니다. 잘못된 설명은 정정 요청으로 알려 주시면 확인해 고칩니다. 새 기사에 나온 이름은 기사가 올라온 뒤 위키에 더해집니다.