責任あるスケーリングポリシー

Responsible Scaling Policy

モデルの能力が定められた基準を超えた際に講じる安全対策をあらかじめ定めた、Anthropicの公開安全ポリシー。

記事2本最終言及

責任あるスケーリングポリシー(Responsible Scaling Policy、RSP)は、AI企業Anthropicが2023年9月に初めて公開した安全ポリシーである。AIモデルの能力があらかじめ定めた基準を超えた場合、それに対応するセキュリティおよび展開上の安全対策を整えるまでモデルの訓練や展開を行わないと約束するもので、モデルの能力が高まるほど要件が厳しくなるAI安全レベル(ASL、AI Safety Level)の段階体系を定義している。

ASLの体系は生物学実験室のバイオセーフティレベルを模して設計された。このポリシーは、生物・化学兵器開発の支援、サイバー攻撃能力、AI研究開発の自動化といったリスク領域ごとに能力基準を設け、基準到達を検知する評価と、到達時に適用される措置を規定する。2024年に大幅改訂された後も更新が続いており、OpenAIのPreparedness FrameworkやGoogle DeepMindのFrontier Safety Frameworkと並び、フロンティアAI企業の代表的な安全ポリシーの枠組みとされる。

この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。

この項目を扱った記事

  • METRがAnthropicのAI研究開発を監査、進歩速度は約2倍に加速と結論AIニュース ·

    これは9月の誓約で述べられた恒久的な従業員並みのアクセスではなく、今回の評価は、Anthropicが10月15日に更新した責任あるスケーリングポリシー(RSP)における独立評価機関の枠組みとも別のものでした。

    記事を読む
  • AnthropicのS-1が示す再帰的自己改善、加速係数0.5の意味と企業の壁AIニュース ·

    社内の推計によれば、同社は自社の責任あるスケーリングポリシー(RSP)が定める再帰的自己改善(RSI)、つまりAIが次のAIの開発を大幅に加速させる段階の定義を、間もなく満たす可能性があるというのです。

    記事を読む

説明の誤りや、見つからない項目はありますか?

事典の説明は、AIPOSTの記事と広く知られた事実をもとにまとめています。誤りは訂正依頼でお知らせいただければ、確認して修正します。新しい記事に登場した名前は、記事の公開後に事典に加わります。