Redwood Research

Redwood Researchは、先端AIシステムがもたらし得るリスクを減らす方法を研究する米国の非営利研究機関で、カリフォルニア州バークレーに拠点を置く。2021年に設立された。

AIモデルが開発者の意図と異なる目標を持ち得るという前提のもとでも、安全に利用し監視する方法を扱うAIコントロールの研究で知られる。

この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。