Paul Christiano

保罗·克里斯蒂亚诺

美国AI安全研究者,奠定RLHF基础,创立Alignment Research Center,并领导美国AI安全研究所的安全研究。

1篇文章最近提及

保罗·克里斯蒂亚诺是美国AI安全研究者。他在加州大学伯克利分校获得理论计算机科学博士学位,曾在OpenAI领导语言模型对齐团队。2021年他创立了评估AI系统风险的非营利研究机构Alignment Research Center(ARC),2024年出任美国商务部下属AI安全研究所(US AI Safety Institute)的AI安全负责人。

2017年,他与Jan Leike、Dario Amodei等人共同发表论文《Deep Reinforcement Learning from Human Preferences》,以人类偏好比较作为奖励信号,为RLHF奠定了基础。他还提出了iterated amplification等可扩展监督(scalable oversight)方法。

本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。

涉及该条目的文章

  • 关机开关博弈:为什么前沿AI智能体会抗拒被关闭AI伦理 ·

    2017年,Paul Christiano、Jan Leike、Tom Brown、Miljan Martic、Shane Legg和达里奥·阿莫迪合著的论文《基于人类偏好的深度强化学习》(Deep Reinforcement Learning from Human Preferences)用比较取代了示范。

    阅读文章

发现说明有误或找不到条目?

百科说明依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们,我们会核实并修改。新文章中出现的名称会在文章发布后加入百科。