アクティベーション(活性値)は、ニューラルネットワークのニューロンが入力の重み付き和に活性化関数を適用して出力する値である。ある層のニューロン群が出すアクティベーションの集合は、その層が入力をどのように表現しているかを示し、次の層の入力となる。
活性化関数はReLU、シグモイド、GELUのように非線形変換を行い、ニューラルネットワークが複雑な関数を近似できるようにする。解釈可能性の研究では、特定の入力に対するニューロンのアクティベーションの大きさとパターンを分析し、そのニューロンがどの特徴を検出しているかを推定する。