JAX

Google开发的Python数值计算库,将类NumPy的API与自动微分和XLA编译相结合。

1篇文章最近提及

JAX是由Google Research开发、于2018年开源的Python数值计算库。它提供与NumPy几乎相同的数组API,同时以函数变换的方式加入了自动微分(grad)、即时编译(jit)、自动向量化(vmap)和多设备并行(pmap)功能。计算经XLA编译器编译后可在CPU、GPU和TPU上运行。

与以面向对象方式定义模型的PyTorch不同,JAX围绕纯函数及其变换设计,因此常用于研究代码和大规模TPU训练。Google DeepMind等多家研究机构用它训练大型模型,Flax、Haiku等上层库在JAX之上提供神经网络层的定义。

本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。

涉及该条目的文章

  • 从预训练到GRPO:前沿大模型是如何炼成的AI性能 ·

    但参数有数十亿个时,手动就不可能了,这正是PyTorch、JAX、TensorFlow等自动微分框架的用武之地。

    阅读文章

发现说明有误或找不到条目?

百科说明依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们,我们会核实并修改。新文章中出现的名称会在文章发布后加入百科。