逆强化学习

Inverse Reinforcement Learning

从观察到的行为反向推断其背后奖励函数的机器学习方法。

1篇文章最近提及

逆强化学习(Inverse Reinforcement Learning,IRL)是一种机器学习方法,通过观察agent的行为示范来推断使该行为成为最优的奖励函数。它与从给定奖励函数学习策略的强化学习方向相反。2000年,Andrew Ng和Stuart Russell在论文《Algorithms for Inverse Reinforcement Learning》中将其形式化。

逆强化学习用于机器人控制、自动驾驶和人类偏好推断等难以手工设计奖励函数的场景。与直接复制专家行为的模仿学习(imitation learning)不同,它试图还原行为背后的目标本身,也是通过人类反馈学习奖励模型的RLHF的理论背景之一。

本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。

涉及该条目的文章

  • 关机开关博弈:为什么前沿AI智能体会抗拒被关闭AI伦理 ·

    它的脉络可以追溯到经典强化学习(RL),即智能体根据环境奖励学习一套从状态到行动的策略;以及由吴恩达和斯图尔特·罗素在2000年提出的逆向强化学习(IRL)。

    阅读文章

发现说明有误或找不到条目?

百科说明依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们,我们会核实并修改。新文章中出现的名称会在文章发布后加入百科。