ライアン・グリーンブラットは米国のAI安全性研究者で、非営利のAI安全性研究団体Redwood Researchのチーフサイエンティストを務める。
AIの目標が人間の意図とずれても被害を抑えられるよう監視や制限を設計するAI制御の研究を主導し、大規模言語モデルが学習中に自らの傾向を守るためにアライメントされたかのように振る舞いうることを示したアライメント偽装の研究をAnthropicと共同で行った。AIの進歩の速さや自動化されたAI研究開発の時期に関する分析も発表している。
Ryan Greenblatt
AI安全性研究団体Redwood Researchのチーフサイエンティストで、AI制御やアライメント偽装の研究で知られる米国の研究者。
ライアン・グリーンブラットは米国のAI安全性研究者で、非営利のAI安全性研究団体Redwood Researchのチーフサイエンティストを務める。
AIの目標が人間の意図とずれても被害を抑えられるよう監視や制限を設計するAI制御の研究を主導し、大規模言語モデルが学習中に自らの傾向を守るためにアライメントされたかのように振る舞いうることを示したアライメント偽装の研究をAnthropicと共同で行った。AIの進歩の速さや自動化されたAI研究開発の時期に関する分析も発表している。
この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。
ライアン・グリーンブラット氏によるMETRの知見の分析は、ハードウェアのスケーリング、アルゴリズムの効率化、データセットの改善を切り分け、生の計算資源の増加とは無関係に、アルゴリズムとソフトウェアの最適化だけでおよそ4.5倍の高速化があったと推定しています。
記事を読む事典の説明は、AIPOSTの記事と広く知られた事実をもとにまとめています。誤りは訂正依頼でお知らせいただければ、確認して修正します。新しい記事に登場した名前は、記事の公開後に事典に加わります。