效用函数

utility function

为每种结果或状态赋予偏好数值的函数,理性agent以最大化其期望值为行动准则。

1篇文章最近提及

效用函数(utility function)为每种可能的结果或状态赋予一个实数值,表示其可取程度。这一概念源自经济学和决策理论,假定理性agent会选择使期望效用(expected utility)最大化的行动。

在AI中,效用函数用于以数学方式表达agent的目标。与强化学习中在每一步给出奖励的奖励函数(reward function)不同,效用函数表示的是对整体结果的价值。AI安全研究讨论人为设计的效用函数偏离人类意图时产生的问题,以及让agent对人类效用保持不确定性的设计。

本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。

涉及该条目的文章

  • 关机开关博弈:为什么前沿AI智能体会抗拒被关闭AI伦理 ·

    标准的AI智能体会最大化一个效用函数,即一套给各种结果打数值分的公式。

    阅读文章

发现说明有误或找不到条目?

百科说明依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们,我们会核实并修改。新文章中出现的名称会在文章发布后加入百科。