Palisade Research

通过实验研究AI系统攻击性能力和规避控制行为的美国非营利研究机构。

1篇文章最近提及

Palisade Research是一家研究AI系统危险能力的美国非营利研究机构,由AI安全研究者杰弗里·拉迪什于2023年创立,并由其担任负责人。

该机构通过实验测量AI模型脱离人类控制的可能性,包括黑客攻击等攻击性能力,以及抗拒关机指令、绕过规则等行为,并将结果传达给政策制定者和公众,以提高对AI风险的认识。

本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。

涉及该条目的文章

  • METR报告称AI能力增长提速两倍,最有力证据却被删除AI资讯 ·

    Palisade Research是一家调查危险AI能力的机构,其执行董事Jeffrey Ladish表示,这一加速比AI Futures Project的Daniel Kokotajlo撰写的、广受讨论的AI 2027情景推演还要快。

    阅读文章

发现说明有误或找不到条目?

百科说明依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们,我们会核实并修改。新文章中出现的名称会在文章发布后加入百科。