グッドハートの法則Goodhart's law

グッドハートの法則は、英国の経済学者チャールズ・グッドハートが金融政策に関して示した考えにちなむ原理である。人やシステムが特定の指標を目標として最適化すると、その指標は本来測ろうとしていたものを正しく反映しなくなることを指す。

AI分野では、モデルが課題の意図とは異なる方法で報酬や評価スコアを高める報酬ハッキングや仕様ゲーミングといった問題の説明に使われる。

この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。