Responsible Scaling Policy

책임 있는 확장 정책

Anthropic이 모델 능력이 정해진 기준을 넘을 때 취할 안전 조치를 미리 규정한 공개 안전 정책이다.

기사 2편최근 언급

Responsible Scaling Policy(RSP)는 AI 기업 Anthropic이 2023년 9월 처음 공개한 안전 정책이다. AI 모델의 능력이 미리 정한 기준을 넘으면 그에 맞는 보안·배포 안전장치를 갖추기 전에는 모델을 학습하거나 배포하지 않겠다는 약속을 담고 있으며, 모델 능력이 커질수록 요구 수준이 올라가는 AI 안전 등급(ASL, AI Safety Level) 체계를 정의한다.

ASL 체계는 생물학 실험실의 생물안전 등급을 본떠 만들어졌다. 정책은 생물·화학 무기 개발 지원, 사이버 공격 능력, AI 연구개발의 자동화 같은 위험 영역마다 능력 기준을 두고, 기준에 이르렀는지 확인하는 평가와 그때 적용할 조치를 규정한다. 2024년 대폭 개정된 뒤에도 계속 갱신되고 있으며, OpenAI의 Preparedness Framework, Google DeepMind의 Frontier Safety Framework와 함께 frontier AI 기업의 대표적인 안전 정책 틀로 꼽힌다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.

이 항목을 다룬 기사

  • Anthropic AI 연구 속도 2배, METR 독립 평가가 짚은 근거와 한계AI 뉴스 ·

    10월 15일 Responsible Scaling Policy 갱신에서 언급된 독립 평가자 틀과도 별개의 계약이었습니다.

    기사 읽기
  • S-1 공시로 본 RSI 기준, 연구 생산성 2배는 자기 가속의 절반AI 뉴스 ·

    내부 추정에 따르면 자사의 Responsible Scaling Policy(RSP, 모델 능력이 일정 기준을 넘을 때 취할 조치를 미리 정해 둔 안전 정책)가 규정한 RSI(recursive self-improvement, AI가 스스로를 개선하는 능력) 기준을 머지않아 충족할 수 있다…

    기사 읽기

설명이 잘못되었거나 찾는 항목이 없나요?

위키 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리합니다. 잘못된 설명은 정정 요청으로 알려 주시면 확인해 고칩니다. 새 기사에 나온 이름은 기사가 올라온 뒤 위키에 더해집니다.