效用函数(utility function)为每种可能的结果或状态赋予一个实数值,表示其可取程度。这一概念源自经济学和决策理论,假定理性agent会选择使期望效用(expected utility)最大化的行动。
在AI中,效用函数用于以数学方式表达agent的目标。与强化学习中在每一步给出奖励的奖励函数(reward function)不同,效用函数表示的是对整体结果的价值。AI安全研究讨论人为设计的效用函数偏离人类意图时产生的问题,以及让agent对人类效用保持不确定性的设计。
utility function
为每种结果或状态赋予偏好数值的函数,理性agent以最大化其期望值为行动准则。
效用函数(utility function)为每种可能的结果或状态赋予一个实数值,表示其可取程度。这一概念源自经济学和决策理论,假定理性agent会选择使期望效用(expected utility)最大化的行动。
在AI中,效用函数用于以数学方式表达agent的目标。与强化学习中在每一步给出奖励的奖励函数(reward function)不同,效用函数表示的是对整体结果的价值。AI安全研究讨论人为设计的效用函数偏离人类意图时产生的问题,以及让agent对人类效用保持不确定性的设计。
本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。
标准的AI智能体会最大化一个效用函数,即一套给各种结果打数值分的公式。
阅读文章百科说明依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们,我们会核实并修改。新文章中出现的名称会在文章发布后加入百科。