负责任扩展政策

Responsible Scaling Policy

Anthropic公开的安全政策,预先规定模型能力越过既定阈值时须采取的安全措施。

2篇文章最近提及

负责任扩展政策(Responsible Scaling Policy,RSP)是AI公司Anthropic于2023年9月首次发布的安全政策。该政策承诺,在相应的安全防护和部署保障措施到位之前,不训练或部署能力越过预设阈值的模型,并定义了随模型能力提升而要求逐级加严的AI安全等级(ASL,AI Safety Level)体系。

ASL体系仿照生物实验室的生物安全等级设计。该政策针对协助研发生物和化学武器、网络攻击能力、AI研发自动化等风险领域分别设定能力阈值,并规定用于判定阈值是否达到的评估方法以及达到后须采取的措施。政策于2024年大幅修订后持续更新,与OpenAI的Preparedness Framework、Google DeepMind的Frontier Safety Framework并列为前沿AI开发企业的主要安全政策框架之一。

本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。

涉及该条目的文章

  • METR独立评估:Anthropic研发速度翻倍,八成归功于AI工具AI资讯 ·

    这并非9月承诺中所述的永久性员工级别访问权限,而且这次评估与Anthropic 10月15日《负责任扩展政策》更新中的独立评估机构框架是分开的。

    阅读文章
  • Anthropic S-1披露递归自我改进临近,加速因子约0.5AI资讯 ·

    Anthropic向美国证券交易委员会(SEC)提交的修订版S-1文件中,有一句在监管文件里颇为罕见的话:内部估计显示,公司可能即将达到其自家《负责任扩展政策》(Responsible Scaling Policy)对递归自我改进(RSI)的定义,即AI显著加快下一代AI研发的节点。

    阅读文章

发现说明有误或找不到条目?

百科说明依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们,我们会核实并修改。新文章中出现的名称会在文章发布后加入百科。