目的関数objective function

目的関数は、最適化問題において解の良し悪しを数値で表す関数であり、アルゴリズムはこの値を最大化または最小化する解を探す。機械学習では誤差を表す損失関数が、強化学習では累積報酬が目的関数の役割を果たす。

AI安全性の研究では、人間が定めた目的関数が実際に望むことをすべて表せていない場合、システムが意図しない方法でその値を最適化してしまうという問題がよく論じられる。

この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。