Hugging Face Transformers는 Hugging Face가 개발하고 유지하는 오픈소스 Python 라이브러리다. 2018년 BERT를 PyTorch로 옮긴 pytorch-pretrained-bert로 시작해 2019년 Transformers로 이름을 바꿨으며, Hugging Face Hub에 올라온 수많은 사전 학습 모델을 몇 줄의 코드로 내려받아 추론과 fine-tuning에 쓸 수 있게 한다.
AutoModel과 AutoTokenizer 같은 Auto 클래스는 모델 이름만으로 알맞은 구조와 tokenizer를 자동으로 불러오고, pipeline API는 텍스트 생성이나 분류 같은 작업을 한 줄로 실행한다. tokenizer의 chat template 기능은 대화 메시지를 모델이 요구하는 특수 token 형식으로 변환한다. PyTorch를 중심으로 동작하며 자연어 처리뿐 아니라 비전, 음성 모델도 지원한다.