効用関数

utility function

結果や状態ごとに望ましさを数値で表す関数で、合理的なagentはその期待値を最大化するように行動する。

記事1本最終言及

効用関数(utility function)は、起こり得る結果や状態ごとに、その望ましさを実数値で表す関数である。経済学や意思決定理論に由来する概念で、合理的なagentは期待効用(expected utility)を最大化する行動を選択すると仮定される。

AIではagentの目標を数学的に表現する手段として用いられ、強化学習の報酬関数(reward function)が各ステップで報酬を与えるのとは異なり、結果全体に対する価値を表す。AI安全性の研究では、人間が設計した効用関数が意図とずれた場合に生じる問題や、agentが人間の効用を不確実なものとして推定するよう設計する手法が議論されている。

この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。

この項目を扱った記事

  • AIが停止を拒む理由とは。オフスイッチ・ゲームで読む訂正可能性の欠落AI倫理 ·

    標準的なAIエージェントは効用関数、つまり結果に数値のスコアを割り当てる式を最大化します。

    記事を読む

説明の誤りや、見つからない項目はありますか?

事典の説明は、AIPOSTの記事と広く知られた事実をもとにまとめています。誤りは訂正依頼でお知らせいただければ、確認して修正します。新しい記事に登場した名前は、記事の公開後に事典に加わります。