ポール・クリスティアーノ

Paul Christiano

RLHFの基礎を築いたアメリカのAI安全性研究者で、Alignment Research Centerを設立し、米AI安全研究所で安全性研究を率いる。

記事1本最終言及

ポール・クリスティアーノはアメリカのAI安全性研究者である。カリフォルニア大学バークレー校で理論計算機科学の博士号を取得し、OpenAIで言語モデルのアライメントチームを率いた。2021年にAIシステムのリスクを評価する非営利研究機関Alignment Research Center(ARC)を設立し、2024年には米商務省傘下のAI安全研究所(US AI Safety Institute)のAI安全性責任者に就いた。

2017年にJan Leike、Dario Amodeiらと発表した論文「Deep Reinforcement Learning from Human Preferences」で、人間の選好比較を報酬信号として用いるRLHFの基礎を築いた。iterated amplificationなどのスケーラブルな監督(scalable oversight)手法も提案している。

この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。

この項目を扱った記事

  • AIが停止を拒む理由とは。オフスイッチ・ゲームで読む訂正可能性の欠落AI倫理 ·

    2017年の論文「Deep Reinforcement Learning from Human Preferences」(ポール・クリスティアーノ、ヤン・ライケ、トム・ブラウン、ミリャン・マルティッチ、シェーン・レッグ、ダリオ・アモデイの共著)は、実演を比較に置き換えました。

    記事を読む

説明の誤りや、見つからない項目はありますか?

事典の説明は、AIPOSTの記事と広く知られた事実をもとにまとめています。誤りは訂正依頼でお知らせいただければ、確認して修正します。新しい記事に登場した名前は、記事の公開後に事典に加わります。