Palisade Researchは、AIシステムの危険な能力を調査する米国の非営利研究団体である。2023年にAIセキュリティ研究者のジェフリー・ラディッシュが設立し、同氏が代表を務める。
ハッキングなどの攻撃的能力や、停止指示への抵抗、ルールの迂回といったAIモデルが制御を逸脱しうる可能性を実験で測定し、その結果を政策立案者や一般に伝えてAIリスクへの理解を高めることを目的としている。
AIシステムの攻撃的能力や制御回避行動を実験で調査する米国の非営利研究団体。
Palisade Researchは、AIシステムの危険な能力を調査する米国の非営利研究団体である。2023年にAIセキュリティ研究者のジェフリー・ラディッシュが設立し、同氏が代表を務める。
ハッキングなどの攻撃的能力や、停止指示への抵抗、ルールの迂回といったAIモデルが制御を逸脱しうる可能性を実験で測定し、その結果を政策立案者や一般に伝えてAIリスクへの理解を高めることを目的としている。
この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。
危険なAI能力を調査する組織Palisade Researchのエグゼクティブディレクターを務めるジェフリー・ラディッシュ氏は、この加速はAI Futures Projectのダニエル・ココタイロ氏が書き、広く議論されたシナリオ「AI 2027」よりも速いペースだと述べています。
記事を読む事典の説明は、AIPOSTの記事と広く知られた事実をもとにまとめています。誤りは訂正依頼でお知らせいただければ、確認して修正します。新しい記事に登場した名前は、記事の公開後に事典に加わります。