Hugging Face Transformersは、Hugging Faceが開発・保守するオープンソースのPythonライブラリである。2018年にBERTをPyTorchへ移植したpytorch-pretrained-bertとして始まり、2019年にTransformersへ改名された。Hugging Face Hubに公開されている多数の事前学習済みモデルを数行のコードで取得し、推論やファインチューニングに使えるようにする。
AutoModelやAutoTokenizerなどのAutoクラスはモデル名だけから適切なアーキテクチャとトークナイザーを自動的に読み込み、pipeline APIはテキスト生成や分類などのタスクを1行で実行する。トークナイザーのチャットテンプレート機能は、会話メッセージをモデルが要求する特殊トークン形式へ変換する。主にPyTorch上で動作し、自然言語処理に加えて画像や音声のモデルも扱える。