JAX

Googleが開発したPythonの数値計算ライブラリで、NumPyに似たAPIに自動微分とXLAコンパイルを組み合わせている。

記事1本最終言及

JAXは、Google Researchが開発し2018年にオープンソースとして公開したPythonの数値計算ライブラリである。NumPyとほぼ同じ配列APIを備えつつ、関数を変換する形で自動微分(grad)、即時コンパイル(jit)、自動ベクトル化(vmap)、複数デバイス並列化(pmap)の機能を加えている。計算はXLAコンパイラを経てCPU、GPU、TPU上で実行される。

PyTorchがオブジェクト指向のモデル定義を基本とするのに対し、JAXは純粋関数とその変換を中心に設計されており、研究用コードや大規模なTPU学習でよく使われる。Google DeepMindをはじめとする研究組織が大規模モデルの学習に用いており、ニューラルネットワーク層を定義するFlaxやHaikuなどの上位ライブラリがJAX上で動作する。

この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。

この項目を扱った記事

  • LLMはどう作られるか、事前学習・SFT・GRPOの3段階を基礎から解説AI性能 ·

    しかし数十億のパラメータでは不可能で、ここでPyTorch、JAX、TensorFlowといった自動微分フレームワークが登場します。

    記事を読む

説明の誤りや、見つからない項目はありますか?

事典の説明は、AIPOSTの記事と広く知られた事実をもとにまとめています。誤りは訂正依頼でお知らせいただければ、確認して修正します。新しい記事に登場した名前は、記事の公開後に事典に加わります。