目标函数objective function

目标函数在优化问题中用数值表示一个解的好坏，算法会寻找使其最大化或最小化的解。在机器学习中，衡量误差的损失函数承担这一角色；在强化学习中，则是累积奖励。

AI安全研究经常讨论这样一个问题：如果人为设定的目标函数未能完整反映人们真正想要的东西，系统可能会以意想不到的方式去优化它。

本条目依据AIPOST的文章与广为人知的事实整理。如有错误，请通过更正请求告诉我们。