学習率は、勾配降下法でモデルを学習する際、各ステップでパラメータを勾配の逆方向へどれだけ動かすかを決める正の実数である。更新式は通常「新しいパラメータ = 現在のパラメータ − 学習率 × 勾配」の形をとり、学習率が大きいほど一度に大きく動く。学習前に人が設定するハイパーパラメータの中で、結果に最も大きく影響する値とされる。
値が大きすぎると損失が振動または発散し、小さすぎると収束が極端に遅くなるか悪い地点にとどまる。そのため、学習初期に徐々に上げるウォームアップ、進行に応じて下げる減衰やコサインスケジュール、Adamのようにパラメータごとに歩幅を自動調整するオプティマイザと組み合わせて使われる。